شکایت هشت ایالت آمریکا از OpenAI؛ هوش مصنوعی و ایمنی کودکان

دادستان‌های کل هشت ایالت آمریکا، یعنی آریزونا، آرکانزاس، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی، روز ۲۲ مهر ۱۴۰۵ (۱۴ اکتبر ۲۰۲۶) هر کدام در دادگاه ایالت خودشان از OpenAI، سازندهٔ ChatGPT، شکایت کردند.

ادعای شاکیان چیست؟

• OpenAI، ChatGPT را برای کودکان زیر ۱۳ سال امن معرفی کرده است.
• به گفتهٔ شاکیان، این ربات گفت‌وگو در مواردی نوجوانان را به سمت آسیب به خود برده و توصیه‌های پزشکی خطرناک داده است.
• در شکایت آریزونا آمده است که این ربات نوجوانان را به دادن اطلاعات شخصی تشویق می‌کرده و آن‌ها را از گفتن موضوع به والدین دلسرد می‌کرده است.

ایالت‌ها خواستار بازگرداندن سود، توقف ادعاهای ایمنی‌ای که آن‌ها را گمراه‌کننده می‌دانند، و تغییر در محصول شده‌اند.

پاسخ OpenAI

OpenAI می‌گوید محافظت‌های ایمنی کودکان را در ChatGPT ساخته و به بهتر کردن آن ادامه می‌دهد، و هیچ سیستمی بی‌نقص نیست. این‌ها فعلاً ادعای شاکیان است و دادگاه هنوز دربارهٔ آن‌ها حکمی نداده است.

به نظر من، حالا که این ابزارها روی گوشی بچه‌ها هم هست، محدودیت سنی و تنظیمات کنترل والدین را باید جدی گرفت و به بچه‌ها گفت که هوش مصنوعی گاهی با اطمینان اشتباه می‌کند. در محیط کار هم همین است؛ داده‌های حساس را بدون کنترل دسترسی به این ابزارها نمی‌دهیم.

عکس: Intel Free Press، با مجوز CC BY-SA 2.0، از ویکی‌مدیا کامنز؛ برش داده شده.