اعتاد المراهقون على الدردشة مع مساعدي الذكاء الاصطناعي في فيسبوك وإنستغرام وماسنجروقد أثار ذلك مخاوف جدية في العديد من العائلات حول أنواع الأسئلة التي يطرحونها والإجابات التي يتلقونها. ولتوفير بعض الاطمئنان، أطلقت ميتا نظام مراقبة جديدًا يسمح للآباء برؤية المواضيع العامة التي يناقشها أطفالهم مع ميتا إيه آي، دون الحاجة إلى قراءة محتوى المحادثة جملةً جملة.
يتكامل هذا التحديث مع أدوات المراقبة الحالية ويتم دعمه بواسطة لوحة تحكم. "رؤى" أو نتائج داخل مركز الأسرةمن خلال هذه المنصة، يمكن للبالغين الاطلاع على ملخص أسبوعي لاستفسارات أبنائهم. وتجمع الشركة هذا النظام مع تنبيهات جديدة للمحادثات الحساسة، بالإضافة إلى معيار أمني يحد من أنواع الردود التي يمكن أن يقدمها الذكاء الاصطناعي للمستخدمين المراهقين.
كيف تعمل تقنية مراقبة المحادثات الجديدة مع Meta AI
أعلنت شركة ميتا أن الآباء الذين فعّلوا خاصية الإشراف على حسابات أطفالهم سيتمكنون من رؤية ما يلي في مركز العائلة: قسم خاص يجمع المواضيع التي نوقشت مع ميتا إيه آي خلال الأيام السبعة الماضيةهذه الأداة متاحة لأولئك الذين يراقبون حسابات المراهقين على فيسبوك وإنستغرام وماسنجر، وسيتم توسيع نطاقها تدريجياً لتشمل المزيد من المناطق، بما في ذلك أوروبا.
لا تعرض اللوحة المحتوى الحرفي للرسائل، بل تعرض قائمة بـ المواضيع مجمعة حسب المناطق الكبيرةوتشمل هذه المجالات المدرسة، والترفيه، وأسلوب الحياة، والسفر، والكتابة، و... الصحة و العافيةحتى يتمكن الآباء من الحصول على فكرة عما يركز عليه المراهق انتباهه عند استخدام برنامج الدردشة الآلي.
باختيار أحد هذه المواضيع، يصل الشخص البالغ إلى مستوى إضافي من التفاصيل مع فئات فرعية تُحسّن نوع الاستعلامفعلى سبيل المثال، يتضمن قسم أسلوب الحياة فئات مثل الموضة والطعام والعطلات؛ بينما يتضمن قسم الصحة والعافية أقسامًا مثل اللياقة البدنية والصحة البدنية والصحة العقلية. صورة الجسميتمثل الهدف المعلن للشركة في الحفاظ على التوازن بين الرقابة الأبوية والخصوصية.
تُعرض المعلومات على شكل ملخص سبعة أيام من النشاط مع Meta AIتُصنّف الأسئلة حسب التطبيق، ما يُمكّن الآباء من معرفة ما إذا كان طفلهم يطرح أسئلة أكثر على إنستغرام أو فيسبوك أو ماسنجر. وتؤكد ميتا أنه حتى لو لم يُجب الذكاء الاصطناعي على بعض الأسئلة لأسباب أمنية، فسيظل السؤال ظاهرًا في لوحة تحكم الوالدين.
ووفقًا للشركة، فإن هذه الخاصية ليست سوى خطوة أولى، ومن المتوقع تعديلها بمرور الوقت بفضل تعليقات من العائلات وخبراء الأمن الرقميالهدف هو إدخال تغييرات تجعل الأداة أكثر فائدة دون تحويلها إلى شكل من أشكال المراقبة المتطفلة للمحادثات.
معيار محتوى من نوع "13+" للذكاء الاصطناعي
أوضحت الشركة أن تجارب الذكاء الاصطناعي الموجهة للمراهقين صُممت وفقًا لـ معايير مماثلة لتصنيف الأفلام حسب الفئة العمرية لمن تزيد أعمارهم عن 13 عامًاوهذا يعني أنه لا ينبغي لـ Meta AI أن تقدم إجابات تعتبر غير مناسبة لتلك الفئة العمرية، ولا ينبغي لها الوصول إلى محتوى صريح أو حساس معين.
عندما يكتشف الذكاء الاصطناعي أن سؤالاً ما قد يكون غير مناسب، فإنه يمتلك القدرة على لا ترد أو تعيد توجيهي إلى موارد المساعدة إذا انطوى الأمر على مشاكل تتعلق بالصحة النفسية أو غيرها من المواقف الخطرة، فسيظل موضوع تلك الاستشارة مسجلاً في الملخص الذي يطلع عليه الوالدان في مركز الأسرة. يتيح هذا للبالغ معرفة أن الطفل قلق بشأن مشكلة معينة، واتخاذ قرار بشأن مدى ملاءمة مناقشتها شخصياً. في هذه الحالات، تُوظّف ميتا أيضاً خبرتها المهنية في مجال الدعم والإحالات. موارد المساعدة.
إلى جانب فلتر المحتوى هذا، توضح ميتا أن لوحة المراقبة منظمة في عدة مستويات من التفاصيل: يظهر أولاً نظرة عامة على المواضيع الرئيسية التي يغطيها برنامج Meta AIثم تأتي الفئات الفرعية، وأخيراً، التنبيهات المحددة التي قد تشير إلى مواضيع حساسة. ولا تُعرض الرسائل أبداً حرفياً.
يستجيب هذا التصميم لمشكلة متكررة في النقاش العام: كيفية توفير أدوات حماية الطفل دون الإخلال التام بـ الشعور بالألفة الرقمية الذي يتوقعه المراهقون من محادثاتهمبحسب الشركة، يكمن المفتاح في تزويد الآباء بفهمٍ أعمق لاهتمامات أطفالهم ومخاوفهم، بدلاً من تقديم تحليل مباشر لكل محادثة. كما أن التوازن بين الأمن والدعم يشمل أيضاً... الأدوار الأبوية التي تعزز الثقة والاستقلالية.
تنبيهات بشأن قضايا الخطر مثل الانتحار وإيذاء النفس
بالإضافة إلى ملخص الموضوع، تعمل ميتا على تطوير نظام لـ تنبيهات استباقية للمحادثات التي تتناول قضايا حساسة للغايةمثل الانتحار أو إيذاء النفس. سيتم تفعيل هذه الإشعارات عندما يحاول المراهق بدء حوار مع الذكاء الاصطناعي يتعلق بهذه المشكلات، حتى لو قام المساعد بحظر الرد أو إعادة توجيهه إلى موارد الدعم.
الفكرة هي أن الوالد أو الوصي يمكنه أن يعرف أن تفاعل مثير للقلق مع برنامج الدردشة الآلي ومن ثم، يتم تحديد كيفية دعم الطفل، واللجوء عند الضرورة إلى [غير واضح/غير واضح]. كان لدى ميتا بالفعل مستشارون متخصصون في الانتحار وإيذاء النفس لتصميم منتجاتها، وهي الآن تدمج هذه المعرفة بشكل مباشر في الإشراف على الذكاء الاصطناعي.
يهدف هذا النوع من الإشعارات إلى استكمال التدابير الأمنية الأخرى الموجودة بالفعل في حسابات المراهقين، مثل تحديد أوقات الاستخدام، وجدولة فترات الراحة، أو مراقبة الأشخاص الذين تحدثوا معهم في الأيام الأخيرةوتؤكد الشركة أن هذه الطبقات من الحماية، بالإضافة إلى مراقبة المواضيع، تهدف إلى تقليل المخاطر دون منع الشباب من استخدام التكنولوجيا لأغراض تعليمية أو ترفيهية.
أشارت ميتا إلى أن قبول وظائف الرقابة آخذ في الازدياد، وأنه في الولايات المتحدة وحدها، تضاعف عدد المراهقين الذين لديهم حسابات خاضعة للإشراف أكثر من مرتين. مقارنةً بالعام السابق. ومع ذلك، تشير الأبحاث الداخلية للشركة إلى أن الإشراف الأبوي وحده له تأثير محدود على الاستخدام القهري لوسائل التواصل الاجتماعي، مما يجعل من الضروري استكمال هذه التدابير بأساليب أخرى.
أدوات متاحة للعائلات على فيسبوك وإنستغرام
تم دمج الخيار الجديد لمراجعة المواضيع التي تغطيها تقنية Meta AI في نظام بيئي أوسع من أدوات الرقابة الأبوية التي يوفرها فيسبوك وإنستغرام بالفعل للعائلات. تتركز كل هذه التعديلات في ما يسمى بمركز العائلة، وهو مساحة يمكن للبالغين من خلالها إدارة الإشراف والوصول إلى موارد السلامة الرقمية.
في هذا السياق، تتاح للوالدين إمكانية إنشاء مراقبة الحساب التي تربط ملفك الشخصي بملف المراهقوبفضل ذلك، يمكنهم مراجعة، على سبيل المثال، طلبات الصداقة التي يتلقونها، ومن بدأ بمتابعتهم مؤخرًا، أو مقدار الوقت الذي يقضونه على كل تطبيق، وتحديد حدود الاستخدام اليومية إذا رأوا ذلك ضروريًا. مراقبة الحساب إنها أداة يمكن دمجها مع الحوار وقواعد الأسرة.
تكوينات مصممة لتحسين الخصوصية والتحكم في الرسائل المباشرةيشمل ذلك توجيه الطفل بشأن من يمكنه رؤية منشوراته، ومن لديه الإذن بإرسال رسائل خاصة إليه، وكيفية إدارة المعلومات الشخصية التي يشاركها على ملفه الشخصي، بالإضافة إلى تقييد الاتصال المباشر بالرسائل من الحسابات غير الموثوقة.
كما يوفر مركز العائلة سجلاً يمكن للوالدين من خلاله التحقق مما إذا كان المراهق قد تم الإبلاغ عن المحتوى أو الحسابات، وفي أي سياق قمت بذلك؟بالإضافة إلى ذلك، هناك أدلة ومواد تعليمية تتناول قضايا مثل التنمر الإلكتروني، والرفاهية الرقمية، وإدارة الضغط الاجتماعي على الشبكات الاجتماعية، مع توصيات عملية لمناقشة هذه المواضيع في المنزل.
في هذا السياق، يهدف تضمين ملخص للمواضيع التي تمت مناقشتها باستخدام الذكاء الاصطناعي إلى توفير طبقة إضافية من السياق: ليس فقط معرفة مقدار الوقت الذي يقضيه الطفل على وسائل التواصل الاجتماعي، ولكن أيضًا ما هي استخداماتك لبرامج الدردشة الآلية المدمجة في تلك المنصات؟ وما نوع القضايا التي يقرر مناقشتها معهم.
مصادر للتحدث عن الذكاء الاصطناعي مع المراهقين
تدرك ميتا أن العديد من الآباء لا يشعرون بالثقة الكاملة عندما يتعلق الأمر بـ اشرح ما هو الذكاء الاصطناعي وكيفية استخدامه بمسؤولية.ولهذا السبب عملت مع الدكتور سمير هيندوجا، المؤسس المشارك لمركز أبحاث التنمر الإلكتروني، لتطوير سلسلة من "مواضيع بدء المحادثة" التي تعمل كنقطة انطلاق لمعالجة المشكلة كعائلة.
هذه أسئلة مفتوحة تهدف إلى توليد حوار غير متحيز حول تجربة المراهق مع الذكاء الاصطناعيويصاحب كل منها دليل للبالغين، يشرح بالتفصيل ما الذي تهدف تلك القضية المحددة إلى استكشافه ويقدم اقتراحات حول أفضل طريقة للتعامل معها، وتجنب أن تبدو المحادثة وكأنها استجواب أو سيطرة مفرطة.
ستتوفر هذه الموارد في مركز المساعدة، ويمكن العثور عليها أيضًا داخل قسم من النتائج من مركز الأسرة نفسهوبهذه الطريقة، عندما يلاحظ الآباء أن طفلهم يطرح الكثير من الأسئلة حول الصحة أو الدراسة أو المشكلات العاطفية، يمكنهم استخدام هذه الأدلة لبدء محادثة أكثر هدوءًا وبناءً.
تؤكد الشركة أن التكنولوجيا وحدها لا تحل المخاطر المرتبطة بالاستخدام المكثف لوسائل التواصل الاجتماعي وأنظمة الذكاء الاصطناعي، وأنها تحتاج إلى دمجها مع التعليم الرقمي، ودعم وتنمية التفكير النقدي من قبل القاصرين. يُنظر إلى مراقبة المواضيع التي تتم مناقشتها باستخدام Meta AI، وفقًا لهذا النهج، على أنها أداة أخرى ضمن نهج حماية أوسع.
دور الخبراء والتحديات المتبقية
ولتعزيز هذا النهج، أنشأت ميتا مجلس خبراء رفاهية الذكاء الاصطناعي (مجلس خبراء الذكاء الاصطناعي للرفاهية)، ويتألف من متخصصين في الانتحار، وإيذاء النفس، والشباب، وصورة الجسد، وأخلاقيات الذكاء الاصطناعي. وقد سبق للعديد منهم التعاون مع الشركة كمستشارين في مجالات مختلفة تتعلق بحماية الطفل.
سيجتمع هذا المجلس دوريًا مع فريقي السياسات والمنتجات في الشركة لـ مراجعة تجارب الذكاء الاصطناعي الموجهة للمراهقين وتقديم التوصيات. ومن بين المهام الأخرى، سيقومون بتقييم ما إذا كانت ردود Meta AI تفي بمعايير المحتوى للأعمار من 13 عامًا فما فوق، وما إذا كانت أدوات المراقبة، مثل لوحة المواضيع الجديدة، مناسبة ومتناسبة.
تأتي هذه المبادرة في سياق تزايد الضغوط التنظيمية والاجتماعية على تأثير وسائل التواصل الاجتماعي والذكاء الاصطناعي على الصحة النفسية للقاصرينتقوم الحكومات ووكالات حماية البيانات في أوروبا ومناطق أخرى بتحليل كيفية تحقيق التوازن بين حق المراهقين في الخصوصية والحاجة إلى تجنب المواقف الخطرة، مثل التنمر الإلكتروني أو الاستدراج أو التعرض لمحتوى ضار.
على الرغم من أن أدوات الرقابة الأبوية الجديدة تتجه نحو بيئة رقمية أكثر أمانًا، إلا أن العديد من الدراسات تشير إلى أن لا يكفي مجرد إضافة المزيد من الأزرار والفلاتر إذا لم يتم التشكيك أيضاً في التصميم العام للمنصات، والخوارزميات التي تشجع على الاستخدام المكثف، والديناميكيات الاجتماعية التي تنشأ حولها، فإن مراقبة المحادثات باستخدام الذكاء الاصطناعي تساهم في نقاش أوسع حول كيفية بناء هذه التقنيات.
تهدف شركة Meta من خلال هذه الإجراءات إلى منح الآباء المزيد من المعلومات حول ما يفعله أطفالهم عندما يستخدمون مساعد المحادثة المدمج في فيسبوك أو إنستغرام، مع الحفاظ على درجة من الخصوصية فيما يتعلق بالمحتوى الدقيق لكل رسالة. التوازن بين الأمن والثقة والاستقلالية لدى المراهقين لا تزال هذه القضية حساسة، لكن إمكانية مراجعة المواضيع الرئيسية التي يتناولونها فيما يتعلق بالذكاء الاصطناعي يمكن أن تساعد العديد من العائلات على تحديد المخاوف في وقت مبكر وبدء محادثات أكثر استنارة في المنزل.
