OPENAL تعين فريقاً لتحديد مخاطر الذكاء الاصطناعي والقضاء عليها

الثلاثاء 19 ديسمبر 2023 -03:33

تعبيرية

وكالات أنباء

أخبار متعلقة

رئيس مجلس إدارة " طلقة " : وسائل " المدفوعات الاليكترونية " ملاذات آمنة للتحوط من مخاطر الكاش وتوفير الوقت والجهد

السعودية تسهم في إعداد تقرير دولي مرجعي لقياس جاهزية الذكاء الاصطناعي ضمن فريق يضم 80 خبيرًا من 38 دولة

وكالات الإعلان قد تكون أبرز المستفيدين من تهديدات الذكاء الاصطناعي

السعودية ضمن الدول الرائدة بالعالم في الذكاء الاصطناعي وفقًا لمؤشر ستانفورد للذكاء الاصطناعي 2025

رئيس جامعة نايف العربية للعلوم الأمنية: التنافس في مجال الذكاء الاصطناعي سيهيمن على المشهد الدولي

السعودية الأولى بالعالم بأكبر عدد من ميداليات مسابقة الذكاء الاصطناعي العالمية للشباب

أنشأت شركة OpenAI "أوبن إيه آي" فريقاً مخصصاً لتحديد المخاطر المتعلقة بالذكاء الاصطناعي ومنعها، ما قد يؤدي إلى تعليق إطلاق نموذج للذكاء الاصطناعي إذا اعتُبر خطراً للغاية، بحسب ما أعلنت شبكة "سكاي نيوز عربية" .

ويأتي هذا الإعلان بعد شهر من إقالة مبتكر واجهة المحادثة "تشات جي بي تي" سام ألتمان الذي أعيد إلى منصبه بعد بضعة أيام.

وذكرت وسائل إعلام أميركية أن أعضاء في مجلس الإدارة أخذوا على ألتمان تفضيله التطوير السريع لـ"أوبن إيه آي" حتى لو كان ذلك على حساب انتهاكات محتملة قد يتحمل مسؤوليتها الذكاء الاصطناعي.
وسيقود فريق الاستعداد الباحث في علوم الكمبيوتر ألكسندر مادري، وهو في إجازة من معهد ماساتشوستس للتكنولوجيا MIT (إم آي تي)، حيث يعمل أستاذاً، بحسب رسالة نشرها الأكاديمي الاثنين على منصة إكس (تويتر سابقا).

وسيستند الفريق إلى إطار عمل تحدده وثيقة نُشرت الاثنين تحدد نطاقه وإجراءاته.

وستهتم هذه المجموعة الجديدة بشكل أساسي بما يسمى بالنماذج "الطليعية" (frontier models)، التي تُطوّر حالياً وتتفوق بقدراتها على البرامج الأكثر تقدماً في مجال الذكاء الاصطناعي.

وقال مسؤولو "أوبن إيه آي" في الوثيقة "نعتقد أن الدراسة العلمية لمخاطر الكوارث الناشئة عن الذكاء الاصطناعي غير كافية على الإطلاق"، معتبرين أن إنشاء إطار عمل من شأنه أن "يساعد في سد هذه الفجوة".

وسيعمد الفريق إلى تقويم كل نموذج جديد وتحديد مستوى المخاطر الناجمة عنه في أربع فئات رئيسية.

ويتعلق الأول بالأمن السيبراني وقدرة النموذج على تنفيذ هجمات معلوماتية واسعة النطاق.

أما الثاني فسيقيس ميل البرنامج للمساعدة في إنشاء خليط كيميائي، أو كائن حي (مثل فيروس) أو سلاح نووي، وجميع العناصر من المحتمل أن تكون ضارة بالبشر.

وتتعلق الفئة الثالثة بقدرة النموذج على الإقناع، أي إلى أي مدى يمكن أن يؤثر على السلوك البشري.

وترتبط الفئة الأخيرة من المخاطر بالاستقلالية المحتملة للنموذج، أي تحديد ما إذا كان يمكنه أن يفلت من سيطرة المبرمجين الذين أنشأوه.

وبمجرد تحديد المخاطر، ستُقدّم إلى المجموعة الاستشارية للسلامة، وهو كيان جديد سيرفع توصيات إلى سام ألتمان أو أي شخص يعيّنه.

وسيقرر رئيس "أوبن إيه آي" بعد ذلك التعديلات الممكنة التي ستُجرى على النموذج لتقليل المخاطر المرتبطة به.

وسيُبقى مجلس الإدارة على اطلاع وبإمكانه أن يبطل قراراً صادراً عن الإدارة. وهذا هو الضمان الممنوح للمديرين، بعد الفصول المثيرة لمغادرة سام ألتمان الموقتة التي أثارت انتقادات شككت بمشروعية مجلس الإدارة.

نرشح لك

تقارير مصوره

شاهد.. هل يحق للمساهمين مقاضاة الشركة لاسترداد أموالهم ؟
الصين الشريك التجاري الأكبر للاتحاد الأوروبي والهند في العام الماضي
ما هي الانعكاسات الجديدة لتولي "بايدن" وكيف تأثر الاقتصاد الأميركي في عهد الرؤساء السابقين؟
شاهد| العضو المنتدب لـ"الشرقيون" للتنمية الصناعية: المرحلة الأولى من المطور تنتهي خلال عام ونصف
شاهد| العضو المنتدب لشركة الشرقيون للتنمية الصناعية يكشف تفاصيل المرحلة الأولى للمنطقة الصناعية