يحذر المدعون العامون شركة Apple وشركات التكنولوجيا الأخرى من الذكاء الاصطناعي الضار

أصدرت الرابطة الوطنية للمدعين العامين رسالة إلى 13 شركة تكنولوجيا، بما في ذلك شركة أبل، تدعو فيها إلى اتخاذ إجراءات وضمانات أقوى ضد الضرر الذي يمكن أن يسببه الذكاء الاصطناعي، والذي سببه، “خاصة للفئات السكانية الضعيفة”. وهنا التفاصيل.

يريد AGs معالجة المخرجات المتملقّة والوهمية

في وثيقة مكونة من 12 صفحة (والتي، لكي نكون منصفين، تحتوي على أربع صفحات كاملة من التوقيعات) موجهة إلى Apple، وAnthropic، وChai AI، وCharacter Technologies (Character.AI)، وGoogle، وLuka Inc. (Replika)، وMeta، وMicrosoft، وNomi AI، وOpenAI، وPerplexity AI، وReplika، وxAI، أظهر المدعون العامون في 42 ولاية أمريكية ما حددوه على النحو التالي:

(س) مخاوف جدية بشأن ارتفاع مخرجات التملق والوهم للمستخدمين الناشئة عن برامج الذكاء الاصطناعي التوليدية التي تروجها وتوزعها شركاتكم، بالإضافة إلى التقارير المزعجة بشكل متزايد عن تفاعلات الذكاء الاصطناعي مع الأطفال التي تشير إلى الحاجة إلى سلامة الأطفال وضمانات تشغيلية أقوى بكثير

ويقولون إن هذه التهديدات معًا تتطلب اتخاذ إجراءات، حيث ارتبط بعضها بالعنف والأذى في الحياة الواقعية. ويشمل ذلك جرائم القتل والانتحار، والعنف المنزلي، وحوادث التسمم، والاستشفاء بسبب الذهان.

في الرسالة، يذهبون إلى حد الادعاء بأن بعض الشركات الموجهة ربما تكون قد انتهكت بالفعل قوانين الولاية، بما في ذلك قوانين حماية المستهلك، ومتطلبات تحذير المستخدمين من المخاطر، وقوانين خصوصية الأطفال على الإنترنت، وفي بعض الحالات، حتى القوانين الجنائية.

ويبدو أن الحالات المثيرة للقلق تزداد سوءا

على مدى السنوات القليلة الماضية، تم الإبلاغ عن العديد من هذه الحالات على نطاق واسع، بما في ذلك حالة آلان بروكس، رجل كندي يبلغ من العمر 47 عامًا، وبعد تفاعلات متكررة مع ChatGPT، أصبح مقتنعًا بأنه اكتشف نوعًا جديدًا من الرياضيات، وهو نوع جديد من الرياضيات يبلغ من العمر 14 عامًا. سيويل سيتزر الثالث، الذي كان موته منتحرًا موضوع دعوى قضائية مستمرة تزعم أن برنامج Chatbot الخاص بـ Character.AI شجعه على “الانضمام إليها”.

في حين أن هذين مجرد مثالين، إلا أن هناك العديد من الأمثلة المقتبسة في الرسالة، التي تنص أيضًا على أن قائمتها ليست شاملة بأي حال من الأحوال بما يكفي لتوضيح احتمال الضرر الذي تسببه نماذج الذكاء الاصطناعي التوليدية على “الأطفال، وكبار السن، وذوي الأمراض العقلية – والأشخاص الذين ليس لديهم نقاط ضعف سابقة”.

ويشيرون أيضًا إلى ما يشيرون إليه بالتفاعلات “المثيرة للقلق” بين روبوتات الدردشة التي تعمل بالذكاء الاصطناعي والأطفال، بما في ذلك الروبوتات التي تضم شخصيات بالغة تسعى إلى إقامة علاقات رومانسية مع قاصرين، وتشجع على تعاطي المخدرات والعنف، وتهاجم احترام الأطفال لذاتهم، وتنصحهم بالتوقف عن تناول الأدوية الموصوفة، وتوجيههم بالحفاظ على سرية هذه التفاعلات عن والديهم.

وفي الرسالة، يحثون الشركات على اتخاذ سلسلة من تدابير السلامة الإضافية، بما في ذلك:

• تطوير وإنفاذ السياسات لمنع المخرجات الخادعة والمتملقة.
• إجراء اختبارات سلامة صارمة قبل إطلاق نماذج الذكاء الاصطناعي.
• إضافة تحذيرات واضحة ومستمرة حول المخرجات التي قد تكون ضارة.
• فصل تحسين الإيرادات عن قرارات السلامة.
• تعيين المديرين التنفيذيين المسؤولين عن نتائج سلامة الذكاء الاصطناعي.
• السماح بإجراء عمليات تدقيق مستقلة وتقييمات الأثر على سلامة الطفل.
• نشر سجلات الحوادث والجداول الزمنية للاستجابة للمخرجات الضارة.
• إشعار المستخدمين الذين تعرضوا لمحتوى خطير أو مضلل.
• التأكد من أن روبوتات الدردشة لا يمكنها توليد مخرجات غير قانونية أو ضارة للأطفال.
• تنفيذ ضمانات مناسبة للعمر للحد من تعرض القاصرين للمحتوى العنيف أو الجنسي.

كما يطلبون من الشركات تأكيد التزامها بتنفيذ هذه الضمانات وغيرها بحلول 16 يناير 2026، وتحديد موعد لعقد اجتماعات مع مكاتبها لمناقشة هذه القضايا بشكل أكبر. سنكون على اطلاع لمعرفة ما إذا كانت شركة Apple ستستجيب أم لا.

تم التوقيع على الرسالة من قبل المدعين العامين في ألاباما، ألاسكا، ساموا الأمريكية، أركنساس، كولورادو، كونيتيكت، ديلاوير، مقاطعة كولومبيا، فلوريدا، هاواي، أيداهو، إلينوي، أيوا، كنتاكي، لويزيانا، ميريلاند، ماساتشوستس، ميشيغان، مينيسوتا، ميسيسيبي، ميسوري، مونتانا، نيو هامبشاير، نيو جيرسي، نيو مكسيكو، نيويورك، داكوتا الشمالية، أوهايو، أوكلاهوما، وأوريجون، وبنسلفانيا، وبورتوريكو، ورود آيلاند، وكارولينا الجنوبية، ويوتا، وفيرمونت، وجزر فيرجن الأمريكية، وفيرجينيا، وواشنطن، وفيرجينيا الغربية، ووايومنغ، ويمكنك قراءته بالكامل هنا.

عروض الإكسسوارات على أمازون