سوالی که بعد از دو صنف قبلی مطرح میشود
در راهاندازی دانابات برای دفتر وکالت و شرکت حسابداری، هر دو بار به یک نگرانی مشترک اشاره کردیم: محرمانگی و تعارض منافع. این نگرانی، آنقدر مهم است که ارزش یک مقاله مستقل را دارد — چون احتمالاً اولین سؤالی است که در ذهن هر مالک شرکت خدماتی کوچک، وقتی اسم «هوش مصنوعی» میآید، شکل میگیرد.
ریسک واقعی، خودِ هوش مصنوعی نیست؛ نبود قانون روشن برای داده است
طبق اظهارنظر یک متخصص امنیت داده که بهتازگی درباره پیادهسازی هوش مصنوعی در شرکتها صحبت کرده، خطر اصلی، ابزار هوش مصنوعی نیست، بلکه نبود قوانین شفاف درباره نحوه کار با داده است. وقتی یک کارمند، بدون چارچوب مشخص، بخشی از قرارداد، پرونده مشتری، یا صورت مالی را در یک سرویس هوش مصنوعی عمومی وارد میکند، شرکت عملاً کنترل خودش را بر اینکه این اطلاعات کجا ذخیره میشود و چه کسی به آن دسترسی دارد، از دست میدهد.
چه اتفاقی میافتد وقتی داده مشتری بدون سیستم مشخص وارد یک ابزار عمومی میشود
این سناریو، دقیقاً همان چیزی است که در دفتر وکالت یا شرکت حسابداری، بیشترین آسیب را میزند: یک وکیل یا حسابدار، برای صرفهجویی در وقت، بخشی از پرونده یا سابقه مالی یک مشتری را در یک چتبات عمومی وارد میکند تا خلاصه یا تحلیلی بگیرد. این کار، نه از روی بیاحتیاطی عمدی، بلکه از سر عادت و برای سرعتبخشیدن به کار انجام میشود — اما نتیجهاش، خروج داده محرمانه از کنترل شرکت است، بدون اینکه کسی متوجه شود.
قدم اول واقعی: دستهبندی داده، قبل از انتخاب هر ابزاری
پیش از راهاندازی هر سیستم هوش مصنوعی، توصیه یک متخصص امنیت داده این است که شرکت، اطلاعات خودش را به چند دسته تقسیم کند: اطلاعاتی که در دسترس عموم است، اطلاعات داخلی غیرحساس، و اطلاعات کاملاً محرمانه مشتری. برای یک شرکت خدماتی کوچک، این دستهبندی دقیقاً همان چیزی است که در مقاله دفتر وکالت به آن اشاره شد: متن قوانین و استانداردهای عمومی، در یک دسته؛ سابقه پرونده و اطلاعات مالی مشتری، در دستهای کاملاً متفاوت با قوانین دسترسی سختگیرانهتر.