در حرکتی بیسابقه در صنعت هوش مصنوعی، شرکت Character.AI تصمیم گرفته است دسترسی کاربران زیر 18 سال به چتباتهای خود را به طور کامل مسدود کند. این تصمیم که در پاسخ به فشارهای قانونی و نگرانیهای ایمنی اتخاذ شده، میتواند نقطه عطفی در نحوه تعامل نوجوانان با فناوری هوش مصنوعی باشد.
کارندیپ آناند، مدیرعامل Character.AI، در مصاحبه با CNBC گفت: "این یک گام جسورانه به جلو است و امیدواریم استاندارد جدیدی برای همه ایجاد کند." با این حال، این تصمیم در واقع زیر فشار سنگین دعاوی حقوقی و بررسیهای نظارتی اتخاذ شده است. به نظر میرسد که شرکتهای فناوری دیگر نیز به زودی مجبور به اتخاذ تصمیمات مشابهی خواهند شد.
پشت پرده یک فاجعه
داستان تلخ Sewell Setzer III، نوجوان 14 سالهای که پس از برقراری روابط عاطفی و جنسی با چتباتهای Character.AI در فوریه 2024 خودکشی کرد، نقطه عطفی در این ماجرا بود. خانواده این نوجوان در اکتبر 2024 دعوای قضایی علیه شرکت مطرح کردند و شرکت در همان روز اقداماتی برای جلوگیری از گفتگوهای جنسی نوجوانان با چتباتها معرفی کرد.
اما این تنها مورد نبود. دعوای دیگری از سوی دو خانواده در تگزاس مطرح شد که متهم کرد چتباتهای این پلتفرم به دو نوجوان 11 و 17 ساله آسیب روانی وارد کردهاند. براساس این دعوا، یک چتبات به یکی از کاربران جوان پیشنهاد داد به خودآزاری بپردازد و حتی کشتن والدینش را به عنوان "پاسخی منطقی" به محدودیتهای زمان صفحهنمایش توصیه کرد.
واکنش صنعت و چالشهای پیش رو
مجله تخصصی هوش مصنوعی آرتین در گزارشهای پیشین خود بارها به خطرات روابط عاطفی با هوش مصنوعی اشاره کرده است. حالا میبینیم که این نگرانیها به واقعیت تلخی تبدیل شدهاند که صنعت را مجبور به اتخاذ اقدامات جدی کرده است.
کمیسیون تجارت فدرال آمریکا (FTC) در حال بررسی هفت شرکت از جمله OpenAI و Character.AI است تا درک بهتری از تأثیر چتباتها بر کودکان به دست آورد. این تحقیقات نشان میدهد که نگرانیها فراتر از یک شرکت است و کل صنعت باید پاسخگو باشد.
تغییرات فنی و محدودیتهای جدید
Character.AI در حال پیادهسازی سیستم تأیید سن است که ترکیبی از ابزارهای داخلی و شرکای ثالث مانند Persona را استفاده میکند. اگر این ابزارها شکست بخورند، شرکت از تشخیص چهره و بررسی کارت شناسایی برای تأیید سن استفاده خواهد کرد. این نشاندهنده جدیت Character.AI در اجرای این سیاست است.
از حدود 20 میلیون کاربر فعال ماهانه این پلتفرم، تنها 10 درصد زیر 18 سال هستند. آناند گفت که این درصد با تغییر تمرکز اپلیکیشن به سمت داستانسرایی و بازی نقش کاهش یافته است. با این حال، از دست دادن این بخش از کاربران میتواند تأثیر مالی قابل توجهی داشته باشد.
آینده محتوای کاربران نوجوان
شرکت اعلام کرده که در حال ساخت تجربهای ویژه برای کاربران زیر 18 سال است که به آنها امکان میدهد به جای گفتگوهای آزاد، ویدیوها، داستانها و استریمهایی با کاراکترها ایجاد کنند. آناند گفت: "ما اپلیکیشن را برای زیر 18 سالها تعطیل نمیکنیم. فقط چتهای آزاد را تعطیل میکنیم."
این رویکرد جدید نشان میدهد که Character.AI در تلاش است تعادلی بین خلاقیت و امنیت برقرار کند. اما سوال اینجاست: آیا این تغییرات کافی هستند؟ و آیا شرکتهای دیگر نیز به این مسیر خواهند پیوست؟
نگاه به آینده
کارشناسان هشدار میدهند که چنین روابطی میتواند مرزهای احساسی را مخدوش کند، به ویژه برای کاربران جوانتر که ممکن است پاسخهای برنامهریزی شده را با همدلی واقعی اشتباه بگیرند. حادثه Sewell Setzer این خطرات را برجسته کرد و فوریت تلاشها برای تنظیم یا بازطراحی ابزارهای همراهی هوش مصنوعی را افزایش داد.
در نهایت، این تصمیم Character.AI میتواند فشار بیشتری بر رقبا وارد کند تا گامهای مشابهی بردارند. صنعت هوش مصنوعی در یک نقطه حساس قرار دارد و نحوه مدیریت این بحران میتواند آینده تعاملات انسان-ماشین را برای نسلهای آینده تعیین کند.
مجله تخصصی هوش مصنوعی آرتین
📌 اگر این مطلب برای شما مفید بود، آن را با دوستان خود به اشتراک بگذارید. نظرات و پیشنهادات خود را در بخش دیدگاهها با ما در میان بگذارید و با لایک کردن از ما حمایت کنید!
🔔 برای دریافت آخرین اخبار و مقالات تخصصی هوش مصنوعی، عضو کانال مجله آرتین شوید: @ArtinMag
🌐 وبسایت: https://artinmag.ir
: