الكل رهيب يعني مه

مايكروسوفت تعتذر رسميا بسبب عنصرية روبوت الدردشة Tay على تويتر

2016-3-27

اعتذرت شركة مايكروسوفت عن التعليقات العنصرية التي نشرها برنامج الذكاء الاصطناعي الخاص بها روبوت الدردشة، تاي Tay، على موقع تويتر مما اضطرها لإيقافه عن العمل.

وتاي هو برنامج ذكاء صناعي على شكل روبوت يجسد شخصية افتراضية لفتاة مراهقة، يتراوح عمرها بين 18 و24 عاما، يمكن الدردشة معها على موقع تويتر التواصل الاجتماعي. ولكن في الحقيقة ان هذا البرنامج يكون وجهات نظره بناءً على المعلومات التي تغذى بها وليس بسبب طبيعته .

وتعرض الروبوت "لهجوم منسق لمجموعة من المستخدمين"، بعد إطلاقه مطلع هذا الأسبوع.
وقررت الشركة إيقافه عن العمل تماما بعد 24 ساعة فقط من إطلاقه، حتى يقوم فريق التشغيل بتعديله.
لكن بيتر لي، رئيس الأبحاث في مايكروسوفت أكد على أن الشركة تشعر بأسف بالغ تجاه الهجوم غير المقصود والتغريدات المؤلمة، وأنها قررت وقف البرنامج خلال المسقبل المنظور.
وقال :"تاي لم يعد موجودا على الإنترنت وسننظر في إمكانية إعادته للعمل حال تأكدنا فقط من توقع النوايا الخبيثة بشكل أفضل والتي تتعارض مع مبادئنا وقيمنا."
وصمم برنامج تاي ليتعلم من التفاعل مع البشر الحقيقيين على موقع تويتر، لكن بعض المستخدمين استغلوا الفرصة وقرروا تغذيته بمعلومات عنصرية وعدائية.

فعلى سبيل المثال وجه أحد المستخدمين سؤالا للبرنامج عن ما إذا كان يؤيد الإبادة الجماعية، ولأنه لا يعرف ما هي فإن البرنامج أجاب "نعم أؤيدها"، الأمر الذي أغضب المستخدمين.
لكن في الصين تفاعل المستخدمون بشكل مختلف مع برنامج ذكاء اصطناعي مشابه أطلقته مايكروسوفت أيضا للصين تحديدا، وحقق الأمر نتائج أفضل.
وقال لي :" تاي ليس أول تجربة لتطبيق بتقنية الذكاء الاصطناعي أطلقته مايكروسوفت، ففي الصين أطلقنا روبوت الدردشة XiaoIce واستخدمه حوالي 40 مليون شخص كانوا سعداء بالحديث معه."
وأضاف إن التجربة مع الروبوت الصيني "شجعتنا على إطلاق نموذجا في أمريكا."

وكشفت مراجعة ما حدث مع الروبوت عن أن الجمهور الغربي يتعامل بشكل مختلف تماما عندما يكون أمامه روبوت دردشة يستطيع التأثير عليه، وشكل إفساد تاي إغراءً كبيرا للبعض.

وتحدث مسؤول الأبحاث في مايكروسوفت عن هذا موضحا أن نقطة الضعف هذه تعني أن تاي يمكن أن يتحول إلى أمر سيء.
وقال :"رغم أننا أعددنا أنفسنا لأنواع عديدة من الهجمات على النظام، إلا أننا أغفلنا هذا النوع الخاص من الهجوم."
ونتيجة لهذا غرد الروبوت بالعديد من الكلمات والصور غير المناسبة واعترفت مايكروسوفت بتحملها المسؤولية كاملة "لعدم أخذ هذه الاحتمالية بعين الإعتبار."
وأكد لي أن فريقه سيواصل العمل من أجل ضمان أن الروبوت سيمكنه التفاعل بدون إحداث أي نوع من التأثيرات السلبية.
وتابع "يجب أن نسمح بالاستخدام بحذر شديد، وفي نهاية المطاف يكون التعلم والتطوير خطوة بخطوة، والقيام بذلك من دون الإساءة إلى الناس في هذه العملية."
وستعقد مايكروسوفت مؤتمر المطور السنوي، بيلد Build، الأسبوع المقبل. ومن المتوقع أن يستحوذ تطوير الذكاء الاصطناعي على جانب هام.

المزيد من الأخبار

مئات الأفلام يتم إنتاجها سنوياً لكن هناك بعض الأفلام الذي تُحقفظ في الذاكرة من تأثير مشاهدها وقصتها إليك أفضل ترشيحات الأفلام على الإطلاق. 1-الأب الروحي عرض الفيلم عام 1972، وهو فيلم جريمة أمريكي ش...

يعد فيلم "لا لا لاند" من أكثر الأفلام التي تحدث عنها الجمهور في الفترة الأخيرة، حيث أشاد به النقاد والجمهور، بالإضافة إلى حصوله على عدد هائل من الجوائز، وإذا استمتعت بمشاهدته، نقترح عليك عشرة أفلام أ...

إذا كان من المحتمل أن تصادف عنكبوتًا، فعليك أن تأخذ حذرك منه قليلاً فلا تدري نوع العنكبوت التي تصادفه، حيث أن لدغة واحدة من أقل العناكب خطرًا يمكن أن تتركك طريحاً بالمستشفى، إليك قائمة بالعناكب الأكث...

تعد حوادث الطيران من أكثر الحوادث خطراً، لذلك تتنافس شركات الطيران لتجعل منها أكثر أمنًا وسلامة من أي وسيلة سفر أخرى. إليكم قائمة بالمطارات الأكثر أماناً للعام المنصرم. 1- شركة تاب البرتغال تأسست ع...

هل تساءلت يوماً ما عن أفضل المسلسلات التلفزيونية على الإطلاق؟ إليكم قائمة بعشر مسلسلات تلفزيونية حازت نجاحاً ساحقاً. 1- مسلسل السيئ العاجل مسلسل أمريكي امتد عرضه لخمس مواسم على مدار خمس سنين. كما ي...

تهادوا تحابوا، تعد الهدايا تعبيراً رمزياً عن الحب والاحترام والتقدير، ولكن هناك بعض الأشخاص  حطموا الأرقام القياسية في ثمن هداياهم. إليكم قائمة بأثمن عشرة هدايا قدمت عبر التاريخ. 1- هدايا الملك...

إذا كنت لا تؤمن بنفسك فكيف تريد من الآخرين أن يؤمنوا بك؟ لذا إذا كنت تريد تحسين ورفع ثقتك بنفسك فاحترس من تلك الأشياء التي يبتعد عنها من يتمتعون بدرجة ثقة عالية. 1- لا يختلقون الأعذار يقرون بأن لد...

ربما مُنعت أثناء مرورك بأحد المطارات يومًا ما من اصطحاب مقصك أو قلامة أظافرك، ولكن هؤلاء الأشخاص حملوا معهم أشياء لن تُصدقها ... إليك أغرب عشرة أشياء تم ضبطها بالمطارات! 1- مطار دالاس تم اكتشاف قُن...

شاهد المزيد من الأخبار

أخبار ذات صلة