Thursday, February 29, 2024
الرئيسيةتكنولوجيابحضور آلاف المتسللين .. حدث ضخم لاختبار عيوب تطبيقات الذكاء الاصطناعي

بحضور آلاف المتسللين .. حدث ضخم لاختبار عيوب تطبيقات الذكاء الاصطناعي

يقوم البيت الأبيض بالتنسيق مع الشركات الرائدة في مجال روبوتات الذكاء الاصطناعي ، مثل “Open AI” و “Google” و “Microsoft” من أجل السماح لآلاف المتسللين باختبار أمان التعامل مع هذه الروبوتات.

وكالة قالتوكالة انباءبعض الأشياء التي سيُطلب من المتسللين العمل عليها هي طرق للتلاعب ببرامج الذكاء الاصطناعي لإحداث ضرر ومدى مشاركة المعلومات الخاصة لمستخدمين آخرين من بين أمور أخرى.

نقلت الوكالة عن منسق حدث استضافة القراصنة المقرر عقده هذا الصيف في لاس فيجاس ، رومان: “نحتاج إلى الكثير من الأشخاص الذين لديهم مجموعة واسعة من التجارب الحية وخلفيات القرصنة في هذه النماذج في محاولة للعثور على المشكلات التي يمكن إصلاحها بعد ذلك”. شودري.

تقول الوكالة إن التجربة العملية مع GPT Chat أو Bing Chat أو Google Cool تُظهر أنهم يميلون أحيانًا إلى اختلاق المعلومات وتقديمها بثقة كحقيقة.

وتضيف أن هناك بالفعل مجموعات كبيرة من المستخدمين يبذلون قصارى جهدهم لخداع روبوتات الذكاء الاصطناعي وتسليط الضوء على أوجه القصور لديهم.

بعض هذه المجموعات تسمى “الفرق الحمراء” ، وهي مجموعات مرخصة من قبل الشركات التي تشن هجمات على نماذج الذكاء الاصطناعي لاكتشاف نقاط ضعفها.

ولكن هناك أيضًا مجموعات من الهواة الذين يحاولون التباهي باختراقهم لهذه الروبوتات.

يشير شودري إلى أن الأمر لا يتعلق فقط بإيجاد العيوب ، بل باكتشاف الطرق المناسبة لإصلاحها.

في الأسبوع الماضي ، حذر البيت الأبيض الرؤساء التنفيذيين لشركات التكنولوجيا الأمريكية العملاقة من مسؤوليتهم “الأخلاقية” لحماية المستخدمين من المخاطر الاجتماعية المحتملة للذكاء الاصطناعي.

ودعت نائبة الرئيس الأمريكي كامالا هاريس رؤساء Google و Microsoft و Open AI و Anthropica إلى اجتماع في وقت تظل فيه مسؤولية تنظيم الذكاء الاصطناعي مهمة للغاية على عاتق الشركات نفسها.

ولفتت إلى أن الذكاء الاصطناعي قادر على “تحسين حياة الناس ومواجهة التحديات الكبرى التي تواجه المجتمع” ، ولكنه قادر أيضًا على “في نفس الوقت … زيادة المخاطر بشكل كبير على الأمن والسلامة ، وانتهاك الحقوق المدنية والخصوصية ، وتقويض ثقة الجمهور وإيمانه بالديمقراطية “. .

حث بايدن الكونجرس في السابق على تمرير قوانين تفرض قيودًا أكثر صرامة على قطاع التكنولوجيا.

يثير الذكاء الاصطناعي مخاوف كبيرة بشأن استخدامه واستغلال البيانات الشخصية. أعربت العديد من البلدان بالفعل عن رغبتها في وضع قواعد لاستخدام أدوات مشابهة لأدوات GPT Chat.

وأثارت “Chat GBT” ، التي أطلقتها شركة Open AI في نوفمبر الماضي ، إعجاب المستخدمين بقدرتها على الإجابة بوضوح ودقة على الأسئلة الصعبة ، وخاصة كتابة الأغاني أو الأكواد ، وحتى اجتياز الاختبارات.

بعد وقت قصير من إطلاقه ، تم حظر برنامج “Chat GBT” في عدة مدارس وجامعات حول العالم ، بسبب مخاوف من استخدامه كأداة للغش في الامتحانات ، فيما نصحت مجموعة من الشركات موظفيها بعدم استخدامه.

مقالات ذات صلة

ترك الرد

من فضلك ادخل تعليقك
من فضلك ادخل اسمك هنا

الأكثر شهرة

احدث التعليقات