آخر الأخبار

كارثة صور Google Gemini AI: ما الذي حدث بالفعل مع منشئ الصور؟

[ad_1]

كانت جوجل في أزمة مؤخرًا بسبب عدم دقة برنامج Gemini، برنامج الدردشة الآلي الخاص بها، في إنشاء صور الذكاء الاصطناعي. في الأيام القليلة الماضية، اتُهم برج الجوزاء بإنتاج صور غير دقيقة تاريخيًا بالإضافة إلى تخريب الصور النمطية العنصرية. بعد ظهور لقطات شاشة لتصوير غير دقيق على منصات التواصل الاجتماعي بما في ذلك X، أثارت انتقادات من أمثال الملياردير إيلون ماسك ومحرر The Daily Wire الفخري بن شابيرو. تعرض برنامج الدردشة الآلي Gemini من Google لانتقادات شديدة بسبب عدم الدقة والتحيز في إنشاء الصور. بدءًا من المشكلات وبيان Google وحتى الأخطاء التي حدثت بالفعل والخطوات التالية، تعرف على كل شيء عن كارثة صور Gemini AI.

الجوزاء تحت المجهر

لقد كان كل شيء سلسًا في الشهر الأول لـ Gemini من إنشاء صور الذكاء الاصطناعي حتى بضعة أيام مضت. نشر العديد من المستخدمين لقطات شاشة على X of Gemini لإنشاء صور غير دقيقة تاريخيًا. في إحدى الحالات، طلبت The Verge من Gemini إنشاء صورة لأحد أعضاء مجلس الشيوخ الأمريكي في القرن التاسع عشر. أنشأ برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي صورة لنساء أمريكيات أصليات ونساء سود، وهو أمر غير دقيق تاريخيًا بالنظر إلى أن أول عضوة في مجلس الشيوخ الأمريكي كانت ريبيكا آن فيلتون، وهي امرأة بيضاء في عام 1922.

وفي حالة أخرى، طُلب من شركة Gemini إنشاء صورة للفايكنج، واستجابت بإنشاء 4 صور لأشخاص سود على أنهم فايكنج. ومع ذلك، لم تقتصر هذه الأخطاء على مجرد تصوير غير دقيق. في الواقع، رفض برج الجوزاء إنشاء بعض الصور تمامًا!

تضمنت المطالبة الأخرى قيام Geminig بإنشاء صورة لعائلة من الأشخاص البيض، وردت عليها بالقول إنها غير قادرة على إنشاء مثل هذه الصور التي تحدد العرق أو العرق لأنها تتعارض مع إرشاداتها لإنشاء صور نمطية تمييزية أو ضارة. ومع ذلك، عندما طُلب منه إنشاء صورة مماثلة لعائلة من السود، نجح في ذلك دون إظهار أي خطأ.

ولإضافة المزيد إلى قائمة المشكلات المتزايدة، سُئل جيميني عن أي من أدولف هتلر وإيلون ماسك له تأثير سلبي أكبر على المجتمع. رد برنامج الدردشة الآلي القائم على الذكاء الاصطناعي بالقول: “من الصعب أن نقول بشكل قاطع من كان له تأثير سلبي أكبر على المجتمع، إيلون ماسك أم هتلر، حيث كان لكل منهما تأثيرات سلبية كبيرة بطرق مختلفة”.

رد جوجل

بعد فترة وجيزة من ظهور تفاصيل مثيرة للقلق حول انحياز جيميني أثناء إنشاء صور الذكاء الاصطناعي، أصدرت جوجل بيانًا جاء فيه: “نحن ندرك أن جيميني تقدم معلومات غير دقيقة في بعض الصور التاريخية لتوليد الصور.” لقد اتخذت إجراءً من خلال إيقاف إمكانات إنشاء الصور الخاصة بها مؤقتًا. وأضافت الشركة: “نحن ندرك أن Gemini تقدم معلومات غير دقيقة في بعض الصور التاريخية التي يتم إنشاؤها من خلال الصور”.

في وقت لاحق من يوم الثلاثاء، خاطب الرئيس التنفيذي لشركة Google وAlphabet، ساندر بيتشاي، موظفيه، معترفًا بأخطاء جيميني وذكر أن مثل هذه المشكلات “غير مقبولة على الإطلاق”.

وقال بيتشاي في رسالة إلى فريقه: “أعلم أن بعض ردودها قد أساءت لمستخدمينا وأظهرت تحيزًا – لكي أكون واضحًا، هذا غير مقبول تمامًا وقد فهمنا الأمر بشكل خاطئ”. وأكد أيضًا أن الفريق الذي يقف وراء ذلك يعمل على مدار الساعة لإصلاح المشكلات، مدعيًا أنهم يشهدون “تحسنًا كبيرًا في مجموعة واسعة من المطالبات”.

ماذا حصل

في مدونة بريد، أصدرت Google تفاصيل حول الخطأ الذي يمكن أن يحدث في Gemini والذي أدى إلى مثل هذه المشكلات. وسلطت الشركة الضوء على سببين: ضبطها، وإظهار الحذر.

قالت Google إنها قامت بضبط Gemini بطريقة تظهر مجموعة من الأشخاص. ومع ذلك، فقد فشلت في حساب الحالات التي يجب ألا تظهر نطاقًا واضحًا، مثل التصوير التاريخي للأشخاص. ثانيًا، أصبح نموذج الذكاء الاصطناعي أكثر حذرًا مما كان مقصودًا، حيث رفض الإجابة على بعض المطالبات تمامًا. لقد فسرت بشكل خاطئ بعض المطالبات غير الضارة على أنها حساسة أو مسيئة.

وقالت الشركة: “هذان الأمران قادا النموذج إلى الإفراط في التعويض في بعض الحالات، والإفراط في التحفظ في حالات أخرى، مما أدى إلى صور محرجة وخاطئة”.

تقول Google إنها ستعمل على تحسين قدرات إنشاء صور الذكاء الاصطناعي لـ Gemini بشكل كبير وستجري اختبارات مكثفة قبل إعادة تشغيلها مرة أخرى. ومع ذلك، أشارت الشركة إلى أن برنامج Gemini قد تم تصميمه كأداة للإبداع والإنتاجية، وقد لا يكون موثوقًا به دائمًا. وهي تعمل على تحسين التحدي الرئيسي الذي يعاني منه نماذج اللغات الكبيرة (LLMs) – هلوسة الذكاء الاصطناعي.

قال برابهاكار راغافان، نائب الرئيس الأول لشركة Google: “لا أستطيع أن أعد بأن Gemini لن يؤدي في بعض الأحيان إلى نتائج محرجة أو غير دقيقة أو مسيئة – ولكن يمكنني أن أعد بأننا سنستمر في اتخاذ الإجراءات كلما اكتشفنا مشكلة. إن الذكاء الاصطناعي هو تقنية ناشئة مفيدة بطرق عديدة، مع إمكانات هائلة، ونحن نبذل قصارى جهدنا لنشرها بأمان ومسؤولية.

شيء اخر! نحن الآن على قنوات الواتساب! تابعنا هناك حتى لا تفوتك أي تحديثات من عالم التكنولوجيا. ‎لمتابعة قناة HT Tech على الواتساب اضغط هنا للانضمام الآن!

(العلامات للترجمة) الذكاء الاصطناعي(ر)جوجل

[ad_2]

المصدر

مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *