المؤلف: Bjørn V. Hauge، مؤسس Veriton
مع ازدياد استقلالية وترابط أنظمة الذكاء الاصطناعي، نواجه تحديًا حاسمًا لا يتناوله الكثيرون: كيف تتحقق أنظمة الذكاء الاصطناعي من صحة المعلومات التي تتلقاها من أنظمة ذكاء اصطناعي أخرى؟ هذا ما أسميه "فجوة التحقق".
أنظمة الذكاء الاصطناعي اليوم قادرة بشكل ملحوظ على توليد المحتوى، والإجابة على الأسئلة، واتخاذ القرارات. لكنها تشترك في ضعف أساسي: لا يمكنها التحقق بشكل موثوق من دقة المعلومات التي تستقبلها. عندما يتواصل نظام ذكاء اصطناعي مع آخر، لا توجد آلية مدمجة تضمن أن المعلومات دقيقة، ومحدثة، أو من مصدر موثوق.
تخيل هذا السيناريو: مساعد ذكاء اصطناعي يساعدك في اتخاذ قرار استثماري من خلال استشارة نظام ذكاء اصطناعي آخر لتحليل السوق. كيف يعرف النظام الأول أن بيانات السوق دقيقة؟ كيف يتحقق من أن التحليل لم يعتمد على معلومات قديمة أو محرفة؟ حاليًا، لا يمكنه ذلك.
الهلوسة في الذكاء الاصطناعي—حيث تولد الأنظمة معلومات كاذبة أو ملفقة بثقة عالية—موثقة جيدًا. لكن المشكلة تتفاقم عندما تتواصل أنظمة الذكاء الاصطناعي مع بعضها البعض. يمكن لهلوسة من نظام واحد أن تنتشر عبر شبكة كاملة من وكلاء الذكاء الاصطناعي، مما يخلق سلسلة من المعلومات المضللة التي يصعب تتبعها أو تصحيحها.
في Veriton، نعمل على تطوير إطار المرجع الموثوق والقابل للتحقق (TVRF) لمعالجة هذه الفجوة. يوفر TVRF:
بينما نتجه نحو عالم تتخذ فيه أنظمة الذكاء الاصطناعي قرارات ذات أهمية متزايدة—في الرعاية الصحية، والتمويل، والأنظمة القانونية، والبنية التحتية الحيوية—تصبح القدرة على التحقق من الاتصالات بين الذكاءات الاصطناعية أمرًا ضروريًا. بدونها، نبني مستقبل الذكاء الاصطناعي على أسس من الافتراضات غير المؤكدة.
يبدأ قانون الاتحاد الأوروبي للذكاء الاصطناعي والقوانين المماثلة حول العالم في معالجة مسؤولية الذكاء الاصطناعي. لكن الأطر التنظيمية وحدها لا يمكنها حل مشكلة التحقق. نحن بحاجة إلى بنية تحتية تقنية تجعل التحقق ممكنًا.
فجوة التحقق هي واحدة من أكبر التحديات التي تواجه تطوير الذكاء الاصطناعي اليوم. حلها يتطلب نهجًا جديدًا في كيفية مشاركة أنظمة الذكاء الاصطناعي للمعلومات والتحقق منها. في Veriton، نؤمن أن TVRF يمثل خطوة حاسمة نحو أنظمة ذكاء اصطناعي موثوقة يمكنها خدمة احتياجات البشرية بشكل موثوق.