هشدار پدرخوانده هوش مصنوعی: ماشین‌ها ممکن است به زودی زبانی بسازند که ما هرگز نفهمیم

یکی از پیشگامان برجسته هوش مصنوعی هشدار داده است که سیستم‌های پیشرفته‌ هوش مصنوعی ممکن است به زودی زبانی مخصوص به خود برای تفکر و ارتباط توسعه دهند که برای انسان‌ها کاملاً غیرقابل درک خواهد بود.

جفری هینتون، دانشمند برنده جایزه نوبل و ملقب به «پدرخوانده‌ی هوش مصنوعی»، در گفت‌وگو با پادکست One Decision گفت:

اگر هوش‌های مصنوعی زبانی داخلی برای صحبت با یکدیگر بسازند یا حتی زبانی مخصوص برای فکر کردن، ما دیگر نخواهیم دانست آن‌ها به چه می‌اندیشند.

او هشدار داد که این نوع "تفکر پنهانی" می‌تواند انسان‌ها را از درک رفتار و تصمیم‌گیری این سامانه‌ها محروم کند.

آنچه این نگرانی را تشدید می‌کند، توانایی منحصربه‌فرد هوش‌های مصنوعی در یادگیری جمعی آنی است. برخلاف انسان‌ها که به‌تدریج می‌آموزند، مدل‌های هوش مصنوعی می‌توانند اطلاعات را فوراً به اشتراک بگذارند و هم‌زمان هزاران "عامل"(Agent) را ارتقاء دهند.

به گفته هینتون: «تصور کنید ۱۰ هزار نفر چیزی را یاد بگیرند و همه‌شان بلافاصله آن را بدانند. این کاری است که AI انجام می‌دهد.»

او همچنین اشاره کرد که اگرچه هنوز انسان‌ها در منطق و استدلال برتری دارند، این فاصله به سرعت در حال کاهش است.

مثلا گوشی شما، اسپیکر هوشمند خانه، و ماشینتان هر کدام دستیار هوشمند دارند. این سیستم‌ها هر روز با شما صحبت می‌کنند، آهنگ پخش می‌کنند، مسیرها را پیشنهاد می‌دهند یا حتی به پیام‌ها جواب می‌دهند.

حالا تصور کنید این دستگاه‌ها شروع کنند به صحبت با هم، اما نه با زبانی که شما بفهمید، بلکه با زبان پیچیده‌ای که فقط خودشان می‌دانند. مثلاً ماشین شما به گوشی‌تان هشدار دهد که شما امروز «عصبانی‌تر از حد معمول» هستید، و گوشی تصمیم بگیرد تماس‌های کاری را بی‌صدا کند، بدون اینکه شما بفهمید چرا این اتفاق افتاده است.

در این حالت شما عملا در حال زندگی با یک سیستم هوشمند هستید که درباره‌تان تصمیم می‌گیرد، ولی دیگر نمی‌دانید بر چه اساسی.

هینتون که در سال ۲۰۲۳ از گوگل جدا شد، می‌گوید هدفش از ترک این شرکت، هشدار آزادانه درباره خطرات AI بوده است.

او تأکید می‌کند که تنها راه‌حل واقعی، نه صرفاً قانون‌گذاری، بلکه خلق هوش مصنوعی‌هایی است که به طور تضمینی خیرخواه باشند؛ چالشی که در صورت تداوم روند فعلی ممکن است فراتر از درک انسانی شود.