الذكاء الاصطناعي في أمازون يعاني من هلوسة شديدة

في إعلان مفاجئ الأسبوع الماضي، أعلن قسم الحوسبة السحابية في أمازون عن روبوت دردشة جديد مبهرج يعمل بالذكاء الاصطناعي يستهدف الشركات يسمى Amazon Q - ويجب عدم الخلط بينه وبين Q* السري الخاص بـ OpenAI، ويُلفظ Q star، والذي يُشاع أنه نظام ذكاء اصطناعي جديد منفصل وقوي. .

ولكن وفقًا للوثائق المسربة التي حصلت عليها Platformer، فإن إطلاق أمازون بدأ بداية صعبة. وبحسب ما ورد يعاني Q من "هلوسة شديدة" ويعمل بنشاط على "تسريب بيانات سرية".

ورد متحدث باسم أمازون على هذا الادعاء، قائلا إن "أمازون كيو لم يسرب معلومات سرية".

تم وضع علامة "sev 2" على الحادث، وفقًا لـ Platformer، مما يعني حدثًا خطيرًا بما يكفي لدعوة المهندسين أثناء الليل. وبحسب ما ورد تخلت الأداة عن مواقع مراكز بيانات خدمات الويب الخاصة بأمازون وتسريب ميزات لم يتم إصدارها.

وهذا لا يبشر بالخير بالنسبة لشركة أمازون، نظرًا لأن برنامج الدردشة الآلي يستهدف بشكل واضح الشركات، والتي كانت حريصة تاريخيًا على عدم تسريب معلومات حساسة إلى برامج الدردشة الآلية مثل ChatGPT من OpenAI. حتى محامو شركة أمازون حذروا الموظفين من تسريب الشركة إلى الذكاء الاصطناعي.

والأسوأ من ذلك، بالنسبة للكثيرين، يمثل Q جهود أمازون المتجددة لترسيخ نفسها في سباق الذكاء الاصطناعي المستمر، والذي يخوضه إلى حد كبير منافسوها، وأبرزهم مايكروسوفت وجوجل.

هلوسة أمازون الشديدة

بالطبع، هذه ليست المرة الأولى التي نسمع فيها عن نماذج لغوية كبيرة "مهلوسة" وادعاءات واقعية غير صحيحة. لا يزال برنامج الدردشة ChatGPT الشهير من OpenAI، والمبني على تقنية GPT الخاصة بالشركة، يواجه الكثير من المشاكل في التمييز بين الحقيقة والخيال، ويمكن استخدامه بسهولة لاختراع روايات ضارة أو نشر معلومات مضللة.

كما أن المخاطر مرتفعة بشكل لا يصدق بالنسبة لشركة أمازون، وهي الشركة التي تحاول تغيير التصور الذي تخلفت عنه عندما يتعلق الأمر بالذكاء الاصطناعي.

ليس من المستغرب أن يحاول متحدث باسم أمازون التقليل من أهمية آخر الأخبار في تصريح لـ Platformer.

وقال المتحدث: "يشارك بعض الموظفين التعليقات من خلال القنوات الداخلية وأنظمة التذاكر، وهي ممارسة معتادة في أمازون". "لم يتم تحديد أي مشكلة أمنية نتيجة لهذه التعليقات."

إذن من هو على حق، المنصات أم أمازون؟ قال رئيس خدمات الويب في أمازون، آدم سيليبسكي، لصحيفة نيويورك تايمز الأسبوع الماضي، إن Q تم تطويره كرد فعل مباشر على سياسات شركات مثل Apple وVerizon وSamsung وNorthrop Grumman التي أصدرت في وقت سابق من هذا العام والتي تحظر استخدام ChatGPT بسبب مخاوف الخصوصية واحتمالات حدوث ذلك. لتسريب البيانات السرية.

وقال سيليبسكي للصحيفة: "لقد صممت أمازون Q لتكون أكثر أمانًا وخصوصية من برنامج الدردشة الآلي للمستهلك".

ولكن إذا تم تأكيد ذلك، فإن أحدث التقارير تشير إلى أن الشركات تواجه خطرًا حقيقيًا من خلال تبني الذكاء الاصطناعي المؤسسي لشركة أمازون.