ایرانیان جهان - مدل‌ها، ابزارها و برنامه‌های مبتنی‌بر هوش مصنوعی ممکن است گاهی اطلاعات نادرستی تولید کنند که این پدیده به‌عنوان «توهم Hallucination» شناخته می‌شود، بااین‌حال داده‌ها نشان می‌دهد مدل‌های کوچک‌تر یا تخصصی‌تر کمترین میزان توهم را در بین همه مدل‌ها دارند.
به گزارش سرویس ترجمه خبرگزاری ایمنا، همان‌طور که ابزارها و برنامه‌های مبتنی‌بر هوش مصنوعی بیشتر در زندگی روزمره بشر ادغام می‌شوند، لازم است به این نکته توجه کرد که این مدل‌ها ممکن است گاهی اطلاعات نادرستی تولید کنند.
این پدیده که به‌عنوان «توهم Hallucination» شناخته می‌شود، زمانی رخ می‌دهد که یک مدل زبان بزرگ (LLM) همچون یک چت‌ربات هوش مصنوعی یا ابزار بینایی رایانه‌ای، الگوها یا اشیایی که وجود ندارند یا برای انسان غیرقابل تشخیص هستند را شناسایی می‌کند که خروجی‌هایی نادرست یا بدون معنا هستند.
نرخ توهم (Hallucination Rates) به فرکانسی گفته می‌شود که در آن یک LLM اطلاعات نادرست یا پشتیبانی‌نشده را در خروجی‌های خود تولید می‌کند. طبق داده‌های پلتفرم وکتارا (Vectara) تا یازدهم دسامبر 2024، برترین مدل‌های زبانی هوش مصنوعی با کمترین میزان توهم عبارتند از:
Zhipu AI GLM-4-9B-Chat، چین 1.3 درصد
Google Gemini-2.0-Flash-Exp، ایالات متحده آمریکا 1.3 درصد
OpenAI-o1-mini، ایالات متحده آمریکا 1.4 درصد
GPT-4o، ایالات متحده آمریکا 1.5 درصد
GPT-4o-mini، ایالات متحده آمریکا 1.7 درصد
GPT-4-Turbo، ایالات متحده آمریکا 1.7 درصد
GPT-4، ایالات متحده آمریکا 1.8 درصد
GPT-3.5-Turbo، ایالات متحده آمریکا 1.9 درصد
DeepSeek-V2.5، چین 2.4 درصد
Microsoft Orca-2-13b، ایالات متحده آمریکا 2.5 درصد
Microsoft Phi-3.5-MoE-instruct ایالات متحده آمریکا 2.5 درصد
Intel Neural-Chat-7B-v3-3، ایالات متحده 2.6 درصد
Qwen2.5-7B-Instruct، چین 2.8 درصد
Snowflake-Arctic-Instruct، ایالات متحده 3 درصد

نرخ توهم با جمع‌بندی هزار سند کوتاه با هر LLM و استفاده از مدلی برای تشخیص توهم محاسبه شده است تا درصدی از خلاصه‌های ناسازگار واقعی به دست آید. اندازه‌گیری این نرخ به‌طور فزاینده‌ای حیاتی است، زیرا سیستم‌های هوش مصنوعی در برنامه‌های کاربردی پرمخاطره در زمینه‌هایی همچون پزشکی، حقوق و امور مالی به کار گرفته می‌شوند.
پلتفرم وکتارا تجارب هوش مصنوعی مکالمه‌ای را ارائه می‌دهد که همیشه پاسخ‌های مرتبط و دقیق را ایجاد می‌کند و توسعه‌دهنده راه‌حل‌های هوش مصنوعی مسئول و بسیار ارزشمند است، همچنین وعده داده است که کاستی‌های کلیدی LLM را کاهش و در عین حال دامنه موارد استفاده بالقوه دگرگون‌کننده آن را گسترش دهد. به گفته این پلتفرم، مدل‌های سایز کوچک می‌توانند به نرخ توهم قابل مقایسه یا حتی کمتری نسبت به LLM‌هایی دست پیدا کنند که اندازه بسیار بزرگ‌تر دارند. همانطور که در آخرین داده‌های آن مشخص شد مدل‌های کوچک‌تر یا تخصصی‌تر همچون Zhipu AI GLM-4-9B-Chat، OpenAI-o1-mini و OpenAI-4o-mini کمترین میزان توهم را در بین همه مدل‌ها دارند.
هرچند مدل‌های بزرگ‌تر به‌طور معمول از مدل‌های کوچک‌تر بهتر عمل می‌کنند و به‌طور مداوم برای نتایج بهتر بزرگ‌تر می‌شوند، با معایبی همچون هزینه‌های بالا، استنتاج کند و پیچیدگی مواجهند، بااین‌حال مدل‌های کوچک‌تر شکاف‌ها را از بین می‌برند و بسیاری از آن‌ها در فعالیت‌های ویژه به‌خوبی عمل می‌کنند. به عنوان مثال، یک مطالعه نشان داد که مدل کوچک‌تر Mistral 8x7B با موفقیت توهمات را در متن تولیدشده توسط هوش مصنوعی کاهش داد.
از نظر مدل‌های پایه، Gemini 2 گوگل کمی بهتر از OpenAI GPT-4 با تفاوت نرخ توهم تنها 0.2 درصد عمل می‌کند، بااین‌حال به‌طور کلی چندین گونه از GPT-4 (به‌عنوان مثال، توربو، مینی، استاندارد) در محدوده 1.5 تا 1.8 درصد قرار می‌گیرند که این امر تمرکز قوی آن‌ها روی دقت در سطوح مختلف معماری یکسان را برجسته می‌کند.
کد خبر 828460