جعبه سیاه هوش مصنوعی چیست؟

یادگیری ماشینی زیرمجموعه غالب هوش مصنوعی است. همچنین زیربنای سیستم‌های هوش مصنوعی مولد مانند ChatGPT و DALL-E2  نیز است! سه جزء برای یادگیری ماشین وجود دارد: یک الگوریتم یا مجموعه‌ای از الگوریتم‌ها، داده‌های آموزشی و یک مدل. الگوریتم مجموعه‌ای از رویه‌ها است. در یادگیری ماشینی، یک الگوریتم پس از آموزش بر روی مجموعه بزرگی از مثال‌ها – داده‌های آموزشی – می‌آموزد که الگوها را تشخیص دهد. هنگامی که یک الگوریتم یادگیری ماشینی آموزش داده شد، نتیجه یک مدل یادگیری ماشینی است. مدل چیزی است که مردم استفاده می‌کنند.

بیشتر بخوانید:

• Galaxy AI چیست؟
• هوش مصنوعی مولد چیست؟
• چگونه یک نسخه محلی Chat GPT را دانلود کنیم؟

به عنوان مثال، یک الگوریتم یادگیری ماشینی می‌تواند برای شناسایی الگوها در تصاویر طراحی شود و داده‌های آموزشی می‌تواند تصاویری از سگ‌ها باشد. مدل یادگیری ماشینی حاصل می‌تواند یک سگ شکار باشد. شما می‌توانید یک تصویر را به عنوان ورودی به آن بدهید و به عنوان خروجی دریافت کنید که تصویر مجموعه‌ای از پیکسل‌ها یک سگ را نشان می‌دهند.

هر یک از سه جزء یک سیستم یادگیری ماشینی می‌تواند پنهان یا در یک جعبه سیاه باشد. همانطور که اکثرا اتفاق می‌افتد، الگوریتم به طور عمومی شناخته شده است که باعث می‌شود قرار دادن آن در جعبه سیاه کمتر موثر باشد. بنابراین توسعه دهندگان هوش مصنوعی برای محافظت از مالکیت معنوی خود اغلب مدل را در جعبه سیاه قرار می‌دهند. رویکرد دیگری که توسعه‌دهندگان نرم‌افزار اتخاذ می‌کنند، پنهان کردن داده‌های مورد استفاده برای آموزش مدل است . به عبارت دیگر، قرار دادن داده‌های آموزشی در یک جعبه سیاه!

متضاد جعبه سیاه گاهی اوقات به عنوان جعبه شیشه‌ای نیز شناخته می‌شود. جعبه شیشه‌ای هوش مصنوعی سیستمی است که الگوریتم‌ها، داده‌های آموزشی و مدل‌های آن برای دیدن همه در دسترس است. اما محققان گاهی اوقات جنبه‌هایی از این موارد را جعبه سیاه توصیف می‌کنند.

این به این دلیل است که محققان به طور کامل نمی‌دانند که الگوریتم‌های یادگیری ماشینی، به ویژه الگوریتم های یادگیری عمیق، چگونه عمل می‌کنند. حوزه هوش مصنوعی قابل توضیح در حال کار بر روی توسعه الگوریتم‌هایی است که اگرچه لزوما جعبه شیشه‌ای نیستند، اما برای انسان بهتر است که قابل درک باشد.