أطلقت شركة مايكروسوفت يوم الثلاثاء ميزة جديدة للذكاء الاصطناعي من شأنها تحديد وتصحيح الحالات التي ينتج فيها نموذج الذكاء الاصطناعي معلومات غير صحيحة. وتُعرف هذه الميزة باسم “التصحيح”، ويتم دمجها داخل نظام الكشف عن صحة المحتوى في Azure AI Content Safety. ونظرًا لأن هذه الميزة متاحة فقط من خلال Azure، فمن المحتمل أنها تستهدف عملاء المؤسسة العملاقة للتكنولوجيا. كما تعمل الشركة على طرق أخرى للحد من حالات الهلوسة التي يسببها الذكاء الاصطناعي. والجدير بالذكر أن الميزة يمكن أن تعرض أيضًا تفسيرًا لسبب إبراز جزء من النص باعتباره معلومات غير صحيحة.
إطلاق ميزة “التصحيحات” من مايكروسوفت
في تدوينةأعلنت شركة التكنولوجيا العملاقة التي يقع مقرها في ريدموند، عن الميزة الجديدة التي تزعم أنها تحارب حالات الهلوسة التي يسببها الذكاء الاصطناعي، وهي ظاهرة يستجيب فيها الذكاء الاصطناعي لاستعلام بمعلومات غير صحيحة ويفشل في التعرف على زيفها.
تتوفر هذه الميزة عبر خدمات Azure من Microsoft. يحتوي نظام Azure AI Content Safety على أداة تُعرف باسم اكتشاف التأريض. تحدد هذه الأداة ما إذا كانت الاستجابة الناتجة تستند إلى الواقع أم لا. وفي حين تعمل الأداة نفسها بطرق مختلفة عديدة للكشف عن حالات الهلوسة، تعمل ميزة التصحيح بطريقة محددة.
لكي تعمل ميزة التصحيح، يجب أن يكون المستخدمون متصلين بمستندات Azure الأساسية، والتي تُستخدم في تلخيص المستندات وسيناريوهات الأسئلة والأجوبة القائمة على الاسترجاع والتوليد والتعزيز (RAG). بمجرد الاتصال، يمكن للمستخدمين تمكين الميزة. بعد ذلك، كلما تم إنشاء جملة غير أساسية أو غير صحيحة، ستؤدي الميزة إلى طلب التصحيح.
ببساطة، يمكن فهم المستندات الأساسية باعتبارها إرشادات يجب على نظام الذكاء الاصطناعي اتباعها أثناء إنشاء استجابة. ويمكن أن تكون بمثابة المادة المصدرية للاستعلام أو قاعدة بيانات أكبر.
بعد ذلك، ستقوم الميزة بتقييم العبارة وفقًا للوثيقة الأساسية وفي حالة اكتشاف أنها معلومات مضللة، فسيتم تصفيتها. ومع ذلك، إذا كان المحتوى متوافقًا مع الوثيقة الأساسية، فقد تعيد الميزة كتابة الجملة للتأكد من عدم تفسيرها بشكل خاطئ.
بالإضافة إلى ذلك، سيكون لدى المستخدمين أيضًا خيار تمكين الاستدلال عند إعداد القدرة لأول مرة. سيؤدي تمكين هذا إلى مطالبة ميزة الذكاء الاصطناعي بإضافة تفسير لسبب اعتقادها بأن المعلومات غير صحيحة وتحتاج إلى تصحيح.
المتحدث باسم الشركة قال وذكر موقع The Verge أن ميزة التصحيح تستخدم نماذج لغوية صغيرة (SLMs) ونماذج لغوية كبيرة (LLMs) لمواءمة المخرجات مع مستندات التأريض. ونقلت المجلة عن المتحدث قوله: “من المهم ملاحظة أن اكتشاف التأريض لا يحل مشكلة “الدقة”، ولكنه يساعد في مواءمة مخرجات الذكاء الاصطناعي التوليدي مع مستندات التأريض”.
