هشدار پژوهشگران: هوش مصنوعی می‌تواند 'بشریت' را تهدید کند

رویترز در گزارشی به نقل از دو منبع آگاه اعلام کرد که گروهی از پژوهشگران شرکت اوپن‌ای‌آی (OpenAI) در نامه‌‌ای به هیات مدیره از کشف قدرتمند در حیطه هوش مصنوعی خبر داده‌اند که به گفته آنان می‌تواند بشریت را تهدید کند.

پس از اخراج سم آلتمن، مدیر اجرایی شرکت "اوپن‌ای‌آی"، به تاریخ ۳۰ عقرب، شرکت مایکروسافت اعلام کرد که او و تیمش را برای ایجاد یک تیم تحقیقاتی جدید استخدام خواهد کرد.

پیش از این بیش از ۷۰۰ کارمند این شرکت تهدید کرده بودند که در حمایت از مدیر اخراج شدهٔ ‌شان استعفا خواهند داد تا به مایکروسافت بپیوندند.

منابع آگاه به رویترز گفتند که این نامه یکی از موارد فهرست بلندبالایی از شکایت‌های هیات‌مدیره بود که به اخراج آلتمن منجر شد. از موارد دیگر می‌توان به نگرانی از تجاری شدن پیشرفت‌ها پیش از درک پیامدهای آن‌ها اشاره کرد.

یکی از منابع آگاه می‌گوید که هفته گذشته "اوپن‌ای‌آی" در نامه‌ای به کارمندانش، آنان را از وجود پروژه‌ای به نام "کیو‌ استار" آگاه کرده است.

به گفته این مقام آگاه، کسانی در شرکت اوپن‌ای‌آی معتقدند که "کیو استار" می‌تواند نقطه عطفی در زمینهٔ بهره گیری از "هوش مصنوعی عمومی" محسوب شود و در بسیاری از فعالیت‌های با ارزش اقتصادی از انسان‌ها پیشی بگیرد.

این مقام آگاه، که نخواست نامش فاش شود، گفت که "کیو استار" قادر به حل مسایل ریاضی خاصی است و گرچه آزمایش آن در سطح ریاضیات مکتب ابتداییه انجام شده، ولی محققان را به موفقیت‌های آتی بسیار خوشبین کرده است.

پژوهشگران ریاضیات را مرز توسعه هوش مصنوعی مولد می‌دانند. هوش مصنوعی مولد در حال حاضر در نوشتن و ترجمه و پیش‌بینی آماری کلمه بعدی – که می‌تواند شکل‌های گوناگون داشته باشد - خوب عمل می‌کند.

اما فتح قله انجام عملیات ریاضی – که در آن‌ها تنها یک پاسخ درست وجود دارد - مستلزم آن است که توانایی‌ استدلالی هوش مصنوعی مشابه هوش انسانی شود و چنین قابلیتی می‌تواند در پژوهش‌های علمی جدید اعمال شود.

بر خلاف یک ماشین‌حساب که توانایی عملیاتی محدود دارد، هوش مصنوعی می‌تواند درک کند، یاد‌بگیرد و کلی‌سازی کند.

مقامات آگاه بدون ذکر جزیيات گفتند که پژوهشگران در نامه‌شان به هیات‌مدیره درباره قدرت و خطر احتمالی هوش مصنوعی هشدار داده‌اند. دانشمندان علوم کمپیوتر پیش از این هم درباره خطر احتمالی ماشین‌هایی با توان هوشی بالا هشدار داده و گفته بودند که یکی از موارد نگرانی این است که ماشین ها برای نابودی بشر تصمیم بگیرند.

در این نامه همچنین درباره فعالیت‌های تیمی از دانشمندان هوش مصنوعی هشدار داده شده، که از ترکیب دو تیم قبلی "کود جن" (Code Gen) و "مت جن" (Math Gen) تشکیل شده و روی مسله بهبود استدلال و انجام کارهای علمی توسط هوش مصنوعی کار می‌کند و منابع متعددی وجود آن را تایید کرده‌اند.

آلتمن رهبری تلاش‌ها برای تبدیل "چت‌جی‌پی‌تی" به سریع‌الرشدترین نرم‌افزار تاریخ را بر عهده داشت و توانست برای نزدیک‌تر شدن به "هوش مصنوعی عمومی"، سرمایه و منابع کامپیوتری را از سوی شرکت مایکروسافت به "اوپن‌ای‌آی" جلب کند.

او که هفته گذشته توسط هیات مدیره شرکت اوپن‌ای‌ای از کار برکنار شد، یک روز پیش از اخراجش در نشست همکاری‌های اقتصادی آسیا-پسیفیک گفته بود که به نظر او پیشرفت‌های عمده‌ای در پیش است.

آلتمن گفت: "در دو‌ هفته گذشته، من در اتاقی بودم که ما در آن به نوعی پرده جهالت را کنار زدیم و مرز اکتشاف را جلو بردیم، و انجام چنین کاری افتخار حرفه‌ای برای تمام عمر است."