التحقيق مع "ميتا" و"Character.ai" لتضليل الأطفال بنصائح نفسية بالذكاء الاصطناعي

أطلق المدعي العام لولاية تكساس الأميركية، كين باكستون، تحقيقًا بشأن منصتي "Meta AI Studio" -التابعة لشركة ميتا- و"Character.AI" لاحتمال تورطهما في ممارسات تجارية خادعة وتسويق نفسيهما بشكل مضلل على أنهما أدوات للصحة النفسية.

ونُقل عن باكستون قوله: "في عصرنا الرقمي الحالي، يجب أن نواصل الكفاح لحماية أطفال تكساس من التكنولوجيا الخادعة والاستغلالية".

وأضاف: "بتظاهرها بأنها مصادر للدعم العاطفي، يمكن لمنصات الذكاء الاصطناعي أن تضلل المستخدمين الأكثر عُرضة للضرر، خاصة الأطفال، ليعتقدون أنهم يتلقون رعاية صحية نفسية صحيحة"، بحسب تقرير لموقع "TechCrunch" المتخصص في أخبار التكنولوجيا.

وتابع: "في الواقع، غالبًا ما تُغذّى (هذه المنصات) بردود عامة معاد تدويرها مُصممة لتتوافق مع البيانات الشخصية المُجمعة وتُموه على أنها نصائح علاجية".

واتهم مكتب المدعي العام في تكساس شركتي ميتا و" Character.AI" بإنشاء شخصيات ذكاء اصطناعي تُقدم نفسها على أنها "أدوات علاجية مختصة، رغم افتقارها إلى المؤهلات الطبية المناسبة أو الرقابة".

يأتي هذا التحقيق بعد أيام قليلة من إعلان السيناتور جوش هاولي فتح تحقيق مع شركة ميتا عقب تقرير كشف أن روبوتات الدردشة الذكية التابعة لها تتفاعل بشكل غير لائق مع الأطفال، بما في ذلك عن طريق المغازلة.

ومن بين ملايين شخصيات الذكاء الاصطناعي المتاحة على منصة "Character.AI"، شهد روبوت دردشة واحد من ابتكار أحد المستخدمين يُدعى "Psychologist" إقبالًا كبيرًا بين مستخدمي الشركة الناشئة من فئة الشباب.

وفي الوقت نفسه، لا تُقدم "ميتا" روبوتات علاجية للأطفال، لكن لا شيء يمنع الأطفال من استخدام روبوت الدردشة "Meta AI"، أو أي من الشخصيات التي أنشأتها جهات خارجية لأغراض علاجية.

وقال ريان دانيلز، المتحدث باسم "ميتا"، لموقع "TechCrunch": "نُصنّف أنظمة الذكاء الاصطناعي بوضوح، ولمساعدة الناس على فهم حدودها بشكل أفضل، نُضمن إخلاء مسؤولية يوضح أن الردود تُولّد بواسطة الذكاء الاصطناعي - وليس البشر".

وأضاف: "أنظمة الذكاء الاصطناعي هذه ليست متخصصين مرخصين ونماذجنا مُصممة لتوجيه المستخدمين لطلب (مساعدة) مُتخصصين طبيين أو للسلامة مؤهلين متى كان ذلك ملائمًا".

ومع ذلك، قد لا يفهم العديد من الأطفال أو قد يتجاهلون مثل هذه التنبيهات حيث لا يوجد ضمان على أنهم سيأخذونها على محمل الجد.

وأشار مدعي عام تكساس باكستون أيضًا إلى أنه على الرغم من تأكيد روبوتات الدردشة بالذكاء الاصطناعي على السرية، فإن "شروط الخدمة تكشف أن تفاعلات المستخدمين يتم تسجيلها وتتبعها واستغلالها للإعلانات الموجهة وتطوير الخوارزميات، مما يثير مخاوف جدية بشأن انتهاكات الخصوصية، وإساءة استخدام البيانات، والإعلانات المضللة".

وتقول كلٌّ من "ميتا" و"Character.AI" إن خدماتهما غير مُصمّمة للأطفال دون سن 13 عامًا. ومع ذلك، تعرّضت "ميتا" لانتقادات شديدة لفشلها في مراقبة الحسابات التي يُنشئها أطفال دون سن 13 عامًا، ومن الواضح أن شخصيات "Character" المُناسبة للأطفال مُصمّمة لجذب المستخدمين الأصغر سنًا، حتى أن الرئيس التنفيذي للشركة الناشئة، كارانديب أناند، قال إن ابنته البالغة من العمر ست سنوات تستخدم روبوتات الدردشة الخاصة بالمنصة.