نوشته بلاگ

آیا هوش مصنوعی LaMDA گوگل خودآگاه شده؟

گوگل اخیرا یکی از مهندسان خود را به دلیل نقض سیاست‌های عدم افشای اطلاعات این شرکت، به مرخصی اجباری با حقوق فرستاده است. تصمیمی‌ که در پی ابراز نگرانی این مهندس از خودآگاه بودن سیستم چت‌بات هوش مصنوعی این شرکت اتخاذ شد.

بلیک لموین که به عنوان مهندس در سازمان Responsible AI گوگل کار ‌می‌کرد، وظیفه بررسی این موضوع را بر عهده داشت که آیا مدل هوش مصنوعی LaMDA گوگل از ربان تبعیض‌آمیز یا سخنان نفرت‌انگیز استفاده ‌می‌کند یا خیر. 

بر اساس گزارش واشنگتن پست، این مهندس از پاسخ‌های قانع‌کننده‌ای که این سیستم هوش مصنوعی در مورد حقوق خود و اصول اخلاقی ربات‌ها ارائه ‌می‌داد، ابراز نگرانی کرده بود. وی در ماه آوریل، گزارشی را تحت عنوان «آیا LaMDA خودآگاه است؟» در اختیار مدیران اجرای گوگل قرار داد.

لموین این گزارش، مکالمات خود با این سیستم هوش مصنوعی را منتشر کرد که به گفته او، نشان ‌می‌دهد که این سیستم، خودآگاه است چراکه دارای احساسات، عواطف و تجربه ذهنی است.

بر اساس اطلاعات واشنگتن پست و گاردین، گوگل معتقد است که اقدامات لموین در رابطه با فعالیتش در LaMDA، سیاست‌های اطلاعات محرمانه این شرکت را نقض کرده است. در این گزارش آمده که وی از  یک وکیل دعوت کرد تا نماینده این سیستم باشد و با نماینده کمیته قضایی مجلس سنای آمریکا درباره فعالیت‌های غیراخلاقی ادعا شده در گوگل صحبت کرد.

این غول فناوری در سال گذشته و در جریان کنفرانس توسعه‌دهندگان خود، از سیستم هوش مصنوعی LaMDA رونمایی و اظهار امیدواری کرد که این سیستم بتواند با دستیارهای هوش مصنوعی کمک کند تا بتوانند مکالمات بهتر و طبیعی‌تری داشته باشند. این شرکت پیشتر از فناوری تقریبا مشابهی برای قابلیت Smart Compose جیمیل و جست‌وجوهای موتور سرچ خود استفاده کرد.

برایان گابریل سخنگوی گوگل اما طی بیانیه‌ای عنوان کرد هیچ مدرکی دال بر خوداگاه بودن LaMDA وجود ندارد. تیم ما متشکل از کارشناسان مسائل اخلاقی و متخصصان فناوری، نگرانی‌های بلیک را بررسی کرده و به او اطلاع داده‌اند که شواهد ادعاهای او را تایید نمی‌کنند. به وی گفته شد که هیچ مدرکی مبنی بر خودآگاه بودن LaMDA وجود ندارد، بلکه برعکس، شواهد زیادی علیه این ادعاها وجود دارد.

گابریل در ادامه گفت اگرچه برخی‌ها در جامعه هوش مصنوعی در حال بررسی این موضوع هستند که بتوان در درازمدت، هوش مصنوعی خودآگاه را ایجاد کرد اما انجام این ار با انسان‎‌نگاری مدل‌های مکالمه‌ای امروزی، منطقی نیست. این سیستم‌ها از میلیون‌های مکالمه تقلید ‌می‌کنند و ‌می‌توانند هر موضوع خارق‌العاده‌ای را مطرح کنند.

وی افزود: تاکنون صدها محقق و مهندس با LaMDA کار کرده‌اند اما تاکنون پیش نیامده که کسی چنین ادعاهایی را مطرح و این سیستم هوش مصنوعی را به انسان تشبیه کند. 

یک استاد زبان‌شناسی در این رابطه گفت ما در حال حاضر، ماشین‌ها و سیستم‌هایی داریم که قادرند بدون فکر کردن، کلمه تولید کنند اما هنوز ن‌می‌توانیم باور کنیم که ذهنی پشت این‌ها نیست. 

علی‌رغم آنکه لموین به مرخصی اجباری رفته، اما وی قصد دارد تا در آینده به کار خود در هوش مصنوعی ادامه دهد. او در توییتی نوشت: «قصد من این است که در هوش مصنوعی بمانم، چه گوگل مرا نگه دارد یا ندارد.»