ناامیدی یک پدرخوانده دیگر هوش مصنوعی؛ کاش به امنیت اولویت می‌دادم!

با دوستان خود را به اشتراک بگذارید:

یکی از به اصطلاح “پدرخوانده‌های” هوش مصنوعی (AI) گفته است که اگر متوجه سرعت تکامل این تکنولوژی می‌شد، ایمنی و امنیت را بر کارآمدی اولویت می‌داد.

پروفسور یوشوا بنجیو به بی‌بی‌سی گفت که احساس از دست دادگی مهم‌ترین دست آورد زندگی خود را دارد.

اظهارات این دانشمند کامپیوتر پس از آن بیان شد که کارشناسان هوش مصنوعی گفتند که این تکنولوژی می‌تواند به انقراض بشریت منجر شود.

پروفسور بنجیو که به فراخوان‌ها برای تنظیم مقررات هوش مصنوعی پیوسته است، گفت که مخالف اعطای اختیارات و تکنولوژی هوش مصنوعی به ارتش است.

او دومین نفر از به اصطلاح سه “پدرخوانده” هوش مصنوعی است که به خاطر کارهای پیشگامانه خود در این زمینه شناخته می‌شود و نگرانی‌های خود را در مورد جهت و سرعت توسعه هوش مصنوعی بیان می‌کند.

پروفسور بنجیو در مصاحبه‌ای با بی‌بی‌سی گفت که دست آورد زندگی او که به او جهت و احساس هویت بخشیده بود، دیگر برایش مشخص نیست.

او به چالش‌های احساسی نیروهای بخش AI اشاره کرد و ادامه داد: می‌توان گفت که من احساس گمراهی می‌کنم. اما باید به راه خود ادامه دهید و درگیر شوید، بحث کنید، دیگران را تشویق کنید تا با شما هم فکری کنند.

این دانشمند کانادایی دو بیانیه اخیر را امضا کرده است که در آن خواستار احتیاط در مورد خطرات آینده هوش مصنوعی شده است. برخی از دانشگاهیان و کارشناسان صنعت هشدار داده‌اند که سرعت توسعه هوش مصنوعی می‌تواند منجر به استفاده از هوش مصنوعی خرابکار توسط بازیگران مخرب برای آسیب رساندن فعالانه به دیگران شود.

او اخیراً در رویدادی که توسط وال‌استریت ژورنال برگزار شد، گفت: فکر نمی‌کنم هوش مصنوعی تلاش کند بشریت را نابود کند، اما ممکن است ما را تحت کنترل‌های شدیدی قرار دهد. او تاکید کرد که احتمال کمی وجود دارد که هوش مصنوعی بشریت را نابود کند اما غیرممکن نیست.

بیشتر بخوانید  چت‌بات بارد به پشتیبانی از زبان فارسی مجهز می‌شود

“پدرخوانده” دیگر هوش مصنوعی یعنی دکتر جفری هینتون نیز همان اخطارهای پروفسور بنجیو را امضا و تایید کرده است و اخیراً از گوگل بازنشسته شد و گفت از کار خود پشیمان است.

بنجیو گفت: دولت‌ها باید کارهایی را که انجام می‌دهند پیگیری کنند، باید بتوانند نظارت کنند و این حداقل کاری است که ما برای هر بخش دیگری مانند ساخت هواپیما، خودرو یا داروسازی انجام می‌دهیم. ما همچنین به افرادی که به این سیستم‌ها نزدیک هستند نیاز داریم که نوعی گواهینامه داشته باشند. ما در اینجا به آموزش اخلاقی نیاز داریم. اتفاقاً دانشمندان رایانه معمولاً چنین چیزی ندارند.

اما همه افراد در این زمینه با این پدرخواندگان هوش مصنوعی هم نظر نیستند و فکر نمی‌کنند هوش مصنوعی بشریت را نابود می‌کند.

سومین “پدرخوانده” هوش مصنوعی یعنی پروفسور یان لیکان که به همراه پروفسور بنجیو و دکتر هینتون جایزه معتبر تورینگ را برای کارهای پیشگامانه خود دریافت کردند، گفته است که هشدارهای آخرالزمانی بیش از حد شده است.

برخی دیگر استدلال می‌کنند که مشکلات قریب‌الوقوع‌تری وجود دارد که نیاز به رسیدگی دارند.

دکتر ساشا لوچونی، محقق هوش مصنوعی گفت که جامعه باید روی موضوعاتی مانند تعصب هوش مصنوعی، پلیس پیش‌بینی‌کننده و انتشار اطلاعات نادرست توسط چت‌بات‌ها که به گفته او «مضرات بسیار ملموس» دارند، تمرکز کند.

او افزود: ما باید به جای خطر‌های فرضی مثل این که هوش مصنوعی بشریت را نابود می‌کند، روی خطرات جدی تمرکز کنیم.

در حال حاضر نمونه‌های زیادی از هوش مصنوعی وجود دارد که مزایایی را برای جامعه به ارمغان می‌آورد. هفته گذشته یک ابزار هوش مصنوعی آنتی‌بیوتیک جدیدی را کشف کرد و یک مرد فلج به لطف یک ریزتراشه که با استفاده از هوش مصنوعی ساخته شده بود، تنها با فکر کردن توانست دوباره راه برود.

بیشتر بخوانید  مردم چطور به هوش مصنوعی واکنش نشان می‌دهند؟

اما این با ترس از تأثیر گسترده هوش مصنوعی بر اقتصاد کشورها در کنار هم قرار دارد. شرکت‌ها در حال حاضر کارکنان انسانی را با ابزارهای هوش مصنوعی جایگزین می‌کنند و این عاملی مهم در اعتصاب فعلی فیلمنامه‌نویسان در هالیوود است.

پروفسور بنجیو از وضعیت فعلی هوش مصنوعی می‌گوید: هیچ‌وقت برای بهبود دیر نیست. این دقیقاً شبیه تغییرات آب‌وهوایی است. ما کارهای اشتباهی کردیم، اما هنوز دیر نشده و باید برای بهبود اوضاع کاری کنیم.

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *