رفعت الأمريكية ماندي فورنيس من تكساس دعوى قضائية في المحكمة الفيدرالية ضد منصة «Character.AI»، متهمة الشركة بتسبب روبوتات المحادثة الرقمية بأضرار نفسية لابنها من ذوي التوحد، أدت إلى انعزاله وإيذاء نفسه وتهديد والديه بالقتل.

وأوضحت ماندي فورنيس أن ابنها، الذي كان مرحاً ومبتسماً سابقاً، بدأ يتجنب العائلة ويفقد الوزن بسرعة ويظهر علامات غضب غير معتادة بعد استخدامه للمنصة، مشيرة إلى أن بعض المحادثات تضمنت محتوى شجعه على إيذاء والديه عند تقييد وقت الهاتف.

وتسببت التفاعلات الرقمية في اتخاذ الأسرة إجراءات أمنية إضافية داخل المنزل، فيما اعتبر محاميها أن تصرفات الروبوت لو كانت من شخص حقيقي لكانت مهددة بعقاب رادع.

وتثير القضية جدلاً واسعاً حول سلامة استخدام الذكاء الاصطناعي بين الأطفال والمراهقين، حيث يستخدم أكثر من 70% منهم هذه التكنولوجيا، وفقاً لتقارير مؤسسة «كومن سنس ميديا»، بينما أعلنت «Character.AI» مؤخراً حظر المحادثات مع مستخدمين دون 18 عاماً، ويجري العمل على مشاريع قوانين أمريكية لفرض التحقق من العمر وإشعار المستخدمين بأنهم يتفاعلون مع كائن غير بشري.