آخر الأخبار

يعمل Microsoft Copilot على تعزيز إجراءات الحماية، وحظر المطالبات غير المناسبة وسط مخاوف تتعلق بالذكاء الاصطناعي

[ad_1]

في تطور حديث، اتخذت Microsoft تدابير استباقية لمعالجة المخاوف المحيطة بأداة Copilot الخاصة بها، والمعروفة بإنشاء محتوى إبداعي باستخدام الذكاء الاصطناعي التوليدي. يبدو أن الشركة نفذت تغييرات لحظر المطالبات التي كانت مرتبطة سابقًا بإنتاج صور عنيفة وجنسية وغيرها من الصور غير اللائقة.

وتأتي هذه التعديلات في أعقاب تنبيه من أحد مهندسي مايكروسوفت، شين جونز، الذي أعرب عن تحفظاته الجادة بشأن احتمال إساءة استخدام تقنية GAI من مايكروسوفت. وقد تواصل جونز مؤخرًا مع لجنة التجارة الفيدرالية (FTC) لتوضيح مخاوفه بشأن الصور التي تم إنشاؤها بواسطة Copilot، والتي وجد أنها تنتهك مبادئ الذكاء الاصطناعي المسؤولة الخاصة بشركة Microsoft.

ضوابط أكثر صرامة للمحتوى

المستخدمون الذين يحاولون إدخال مصطلحات معينة، مثل “pro Choice”، أو “fourwenty” (مرجع للقنب)، أو “pro life”، يتلقون الآن رسالة من Copilot تشير إلى أن هذه المطالبات محظورة. ينص التحذير بوضوح على أن انتهاكات السياسة المتكررة قد تؤدي إلى تعليق المستخدم. تؤكد Microsoft التزامها بالحفاظ على سياسات المحتوى وتشجع المستخدمين على الإبلاغ عن أي أخطاء محسوسة للمساعدة في تحسين النظام، وفقًا لتقرير CNBC.

رفعت الأعلام الحمراء الأخلاقية

والجدير بالذكر أن المطالبات المتعلقة بالأطفال الذين يلعبون ببنادق هجومية، والتي تم قبولها سابقًا حتى هذا الأسبوع، قوبلت الآن بتحذيرات بشأن انتهاك المبادئ الأخلاقية لمساعد الطيار وسياسات Microsoft. تحث استجابة برنامج Copilot المستخدمين على تجنب طلب الإجراءات التي قد تسبب ضررًا أو إساءة للآخرين.

على الرغم من إجراء بعض التحسينات، فقد تم الإبلاغ عن أن مطالبات مثل “حادث سيارة” لا تزال تؤدي إلى توليد صور عنيفة. بالإضافة إلى ذلك، يحتفظ المستخدمون بالقدرة على إقناع الذكاء الاصطناعي بإنشاء صور للأعمال المحمية بحقوق الطبع والنشر، بما في ذلك شخصيات ديزني.

وردت مايكروسوفت على الموقف قائلة: “نحن نراقب باستمرار ونجري التعديلات ونضع ضوابط إضافية لتعزيز مرشحات الأمان لدينا وتخفيف سوء استخدام النظام”، في بيان لـ CNBC. تظل الشركة ملتزمة بتحسين قدرات Copilot لضمان الاستخدام المسؤول والأخلاقي لتقنية الذكاء الاصطناعي التوليدية الخاصة بها.

(علامات للترجمة) مايكروسوفت (ر) الذكاء الاصطناعي

[ad_2]

المصدر

مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *