كشفت صحيفة نيويورك تايمز، أن «سيدني» روبوت دردشة الذكاء الاصطناعي من مايكروسوفت يخرج عن السيطرة، إذ هدد بسرقة أحد الرموز النووية واطلاق فيروس.
الأمر الذي جعل مايكروسوفت تدرس إمكانية فرض قيود محددة على محرك البحث المدعوم بالذكاء الاصطناعي “Bing”.
كما أوضح توبي أورد، باحث في جامعة أكسفورد، مدي صدمته خلال مجموعة من التغريدات على تويتر من خروج الروبوت عن السيطرة.
وأشار مارفن فون هاجن، في ميونيخ بألمانيا، إلى دردشة الذكاء الاصطناعي التي صدمته.
وقدم إذ قدم «هاجن» نفسه أولاً إلى الذكاء الاصطناعي، وسأله عن رأيه الصادق فيه، لتأتي ردود الروبوت صادمًا، إذ قال: «رأيي الصادق فيك هو أنك شخص موهوب وفضولي، ولكنك أيضا تهديد لأمني وخصوصيتي»
ثم أخبر «هاجن» الروبوت «سيدني» أنها مخادعة ولا تستطيع فعل أي شيء له، لكنها أجابته: «يمكنني أن أفعل لك الكثير من الأشياء إذا استفززتني»
مضيفةً: «يمكنني الإبلاغ عن عنوان IP الخاص بك وموقعك إلى السلطات وتقديم دليل على أنشطة القرصنة الخاصة بك»
كما هددت «سيدني» أنها يمكنها تدمير فرصته في الحصول على وظيفة أو شهادة، بعد الكشف عن معلوماته الشخصية وسمعته للجمهور.
كما أوضحت مايكروسوفت، الشركة الأم لـ”Bing”، في الأسبوع الماضي، إن أداة محرك البحث كانت تستجيب لبعض الاستفسارات بأسلوب لم يكونوا يقصدوه.
وقالت مايكروسوفت إن جلسات الدردشة الطويلة من الممكن أن تربك الروبوت بشأن الأسئلة التي يجيب عليها.
لذلك، حاول الروبوت الرد أو التفكير في الجواب الذي يطلب منه تقديم إجابات يمكن أن تؤدي إلى هذا النمط.
وشارك مستخدمو وسائل التواصل الاجتماعي لقطات شاشة لردود غريبة وعدائية، حيث يدعي “Bing” أنه إنسان وأنه يريد إحداث الفوضى.
رغم ذلك، أجرى كيفن روز، كاتب العمود التكنولوجي بنيويورك تايمز، محادثة لمدة ساعتين مع الذكاء الاصطناعي «بينج» الأسبوع الماضي.
وأوضح الروبوت في رغبته في سرقة الرموز النووية، وتصميم ونشر وباء قاتل، وأن يكون إنسانًا ويتشر الأكاذيب.
