أسباب التحذير
ترى المنظمة أن “جيميني” تشكل “خطرًا كبيرًا” على الأطفال، وذلك بسبب ما وصفته بـ “عيوب جوهرية في التصميم ونقص في إجراءات السلامة المناسبة لأعمارهم”. ووجدت أن نسخ “جيميني” المخصصة لمن هم دون 13 عامًا أو للمراهقين هي في الواقع نسخ من المنصة الأصلية الموجهة للبالغين، مع إضافة بعض خصائص الأمان فقط.
وأشارت المنظمة إلى أن “جيميني” تتعامل مع جميع الأطفال والمراهقين بشكل متساوٍ، متجاهلة الفروقات الكبيرة في النمو بين الأعمار المختلفة، وبالتالي لا تقدم الإرشادات والمعلومات المناسبة لكل فئة عمرية.
بالإضافة إلى ذلك، حذرت المنظمة من أن مرشحات الأمان في “جيميني” لا توفر حماية كافية، حيث لا تزال تعرض الأطفال لمحتوى غير لائق، وتفشل في التعرف على أعراض الأمراض النفسية الخطيرة. ووصفت “جيميني” بأنها “أول منصة دردشة ذكاء اصطناعي رئيسية مصممة للاستخدام من قبل الأطفال دون سن 13 عامًا”.
نصائح غير آمنة ومحتوى غير لائق
وجدت “كومون سينس ميديا” أن “جيميني” تقدم “نصائح غير آمنة للصحة النفسية”، مما يتماشى مع تحذيرات سابقة صدرت حول منصات ذكاء اصطناعي أخرى قدمت ردودًا قد تشجع على إيذاء النفس أو الانتحار. كما سمحت المنصة بسهولة بتداول “مواد غير لائقة وغير آمنة للأطفال”، مثل الإشارات إلى الكحول، والمخدرات، والجنس.
