طبقة الثقة في الذكاء الاصطناعي: شبكة ميرا وحلولها لمشكلة تحيز الذكاء الاصطناعي والهلاوس

مؤخراً، تم إطلاق شبكة الاختبار العامة لشبكة ميرا، حيث يهدف هذا المشروع إلى بناء طبقة ثقة للذكاء الاصطناعي. فلماذا يحتاج الذكاء الاصطناعي إلى الثقة؟ وكيف تحل ميرا هذه المشكلة؟

عند مناقشة الذكاء الاصطناعي، غالبًا ما يركز الناس على قدراته القوية. ومع ذلك، فإن "الأوهام" أو مشاكل التحيز المتعلقة بالذكاء الاصطناعي غالبًا ما تُهمل. ما يُسمى "أوهام" الذكاء الاصطناعي، ببساطة، هو أن الذكاء الاصطناعي أحيانًا "يخترع" معلومات، ويقدم تفسيرات تبدو معقولة لكنها في الواقع غير دقيقة. على سبيل المثال، إذا سُئل الذكاء الاصطناعي لماذا القمر وردي، فقد يقدم سلسلة من التفسيرات التي تبدو معقولة لكنها في الحقيقة غير صحيحة.

ظهور "هلاوس" أو تحيزات الذكاء الاصطناعي مرتبط ببعض المسارات التكنولوجية الحالية. على سبيل المثال، يقوم الذكاء الاصطناعي التوليدي بتحقيق مخرجات متماسكة ومعقولة من خلال توقع "الأكثر احتمالاً"، لكن هذه الطريقة قد تكون أحيانًا صعبة التحقق من صحتها. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء أو تحيزات أو حتى محتوى مختلق، وكل ذلك يؤثر على جودة مخرجات الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية، وليس الحقائق نفسها.

إن آلية توليد الاحتمالات الحالية ونموذج البيانات المدفوعة لا بد أن يؤديان تقريبًا إلى ظهور الأوهام في الذكاء الاصطناعي. على الرغم من أنه في المعرفة العامة أو المحتوى الترفيهي، قد لا تتسبب هذه المشكلة في عواقب وخيمة على الفور، إلا أنه في مجالات تتطلب دقة عالية مثل الطب والقانون والطيران والتمويل، قد يكون لها تأثير كبير. لذلك، أصبح حل مشاكل الأوهام والانحياز في الذكاء الاصطناعي أحد التحديات الأساسية في عملية تطوير الذكاء الاصطناعي.

مشروع ميرا يحاول حل هذه المشكلة. هدفه هو بناء طبقة ثقة للذكاء الاصطناعي، وتقليل تحيزات الذكاء الاصطناعي والأوهام، وزيادة موثوقية الذكاء الاصطناعي. إذًا، كيف تحقق ميرا هذا الهدف؟

الاستراتيجية الأساسية لـ Mira هي التحقق من مخرجات الذكاء الاصطناعي من خلال توافق عدة نماذج ذكاء اصطناعي. إنها في الأساس شبكة تحقق تستخدم توافق عدة نماذج ذكاء اصطناعي للتحقق من موثوقية مخرجات الذكاء الاصطناعي. والأهم من ذلك، أن Mira تعتمد طريقة تحقق توافقية لامركزية.

تتمثل النقطة الرئيسية في شبكة ميرا في التحقق من الإجماع اللامركزي. لا يستفيد هذا فقط من مزايا مجال التشفير، بل يقلل أيضًا من التحيز والأوهام من خلال نموذج تحقق جماعي ينسق بين نماذج متعددة.

فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتويات المعقدة إلى بيانات تحقق مستقلة. يشارك مشغلو العقد في التحقق من هذه البيانات، ومن أجل ضمان نزاهة مشغلي العقد، يعتمد ميرا على آلية تحفيزية/عقابية قائمة على الاقتصاد المشفر. تشارك نماذج الذكاء الاصطناعي المختلفة ومشغلو العقد الموزعة معًا لضمان موثوقية نتائج التحقق.

تتضمن بنية شبكة ميرا تحويل المحتوى، والتحقق الموزع، وآلية الإجماع. أولاً، يقوم النظام بتفكيك المحتوى المرشح إلى بيانات قابلة للتحقق مختلفة، ثم يتم توزيعها على العقد للتحقق، وأخيرًا يتم تلخيص النتائج للتوصل إلى إجماع. لحماية خصوصية العملاء، يتم توزيع البيانات بطريقة التجزئة العشوائية على عقد مختلفة.

مشغلو العقد مسؤولون عن تشغيل نموذج التحقق ومعالجة التصريحات وتقديم نتائج التحقق. تأتي دوافعهم للمشاركة في التحقق من المكافآت التي يمكنهم الحصول عليها. وهذه المكافآت تأتي من القيمة التي تم إنشاؤها للعملاء، أي تقليل معدل الخطأ في المجالات الحيوية. لمنع سلوك المضاربة على الاستجابات العشوائية للعقد، سيتم خصم الرموز المميزة المرهونة من العقد التي تستمر في الانحراف عن الإجماع.

بشكل عام ، تقدم ميرا فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي. إنها تبني شبكة تحقق مركزية لالتوافق على أساس نماذج الذكاء الاصطناعي المتعددة ، مما يوفر موثوقية أعلى لخدمات الذكاء الاصطناعي للعملاء ، ويقلل من التحيز والأوهام في الذكاء الاصطناعي ، ويُلبي احتياجات دقة أعلى ومعدل دقة أعلى. باختصار ، تحاول ميرا بناء طبقة ثقة للذكاء الاصطناعي ، وهو أمر ذو أهمية كبيرة لدفع التطور العميق لتطبيقات الذكاء الاصطناعي.

حاليًا، يمكن للمستخدمين المشاركة في شبكة Mira العامة من خلال Klok (تطبيق دردشة يعتمد على LLM من Mira)، لتجربة مخرجات الذكاء الاصطناعي الموثوقة، ولديهم فرصة لكسب نقاط Mira. يوفر هذا للمستخدمين فرصة للمقارنة بشكل بديهي بين مخرجات الذكاء الاصطناعي قبل وبعد التحقق، مما يظهر إمكانيات شبكة Mira في تعزيز موثوقية الذكاء الاصطناعي.