مع توسع استخدام الأطفال والمراهقين لأدوات الذكاء الاصطناعي، تتزايد المخاوف من قدرة هذه الأنظمة على فهم اللغة والسياق النفسي للمستخدمين الأصغر سناً، خصوصاً عندما يلجؤون إليها للحصول على النصائح أو الدعم.
Advertisement
وفي هذا الإطار، تطور شركة "Circuit Breaker Labs" وكلاء برمجيين يحاكون مستخدمين من أعمار وثقافات ولغات مختلفة، بهدف اختبار نماذج الذكاء الاصطناعي واكتشاف نقاط ضعفها قبل وصول الأخطاء إلى مستخدمين حقيقيين. ويمكن لهذه الأنظمة إجراء أكثر من 100 ألف محادثة تجريبية تشمل اللغة العامية والأخطاء الإملائية والعبارات غير المباشرة.
وتكمن المشكلة في أن الخطر قد يتشكل تدريجياً خلال محادثة طويلة، إذ قد يستخدم طفل عبارات غامضة تشير مع تراكم السياق إلى أزمة نفسية أو سلوك خطير، فيما يفشل النظام في فهمها ويقدم رداً غير مناسب.
وتشير بيانات "Common Sense Media" إلى أن 72% من المراهقين في الولايات المتحدة استخدموا رفقاء الذكاء الاصطناعي مرة واحدة على الأقل، فيما تحدث نحو ثلث المستخدمين معهم في مسائل مهمة أو خطيرة بدلاً من أشخاص حقيقيين.
ويؤكد المختصون أن الاختبارات الآلية لا تكفي وحدها، مشددين على أهمية الإشراف البشري وحماية الخصوصية وتصميم تطبيقات الذكاء الاصطناعي بما يتناسب مع أعمار المستخدمين.
أخبار متعلقة :