ربات‌های هوش مصنوعی درجاتی از خود بازتابی دارند

بسیاری از مردم نگران این احتمال هستند که هوش مصنوعی هوشیار شود. یک تحلیل نشان می‌دهد که هیچ سیستم هوش مصنوعی فعلی هوشیار نیست. محققان شامل دانشمندان علوم کامپیوتر، عصب شناسان و فیلسوفان بودند. نظریاتی که محققین نظر خود را بر اساس آن ها بنا کردند عبارتند از:

نظریه پردازش مکرر پیشنهاد می‌کند که انتقال اطلاعات از طریق حلقه‌های بازخورد کلید آگاهی است. تئوری دیگر، نظریه فضای کار نورونی جهانی، معتقد است که آگاهی زمانی به وجود می آید که جریان های مستقل اطلاعات از گلوگاه عبور می کنند تا در یک فضای کاری مشابه با کلیپ بورد کامپیوتر ترکیب شوند. نظریه‌های مرتبه بالاتر نشان می‌دهند که آگاهی شامل فرآیندی برای نمایش و حاشیه‌نویسی ورودی‌های اساسی دریافت‌شده از حواس است. < a href="https://www.science.org/content/article/if-ai-becomes-conscious-how-will-we-know">نظریه های دیگر که آنها در نظر گرفتند بر اهمیت مکانیسم هایی برای کنترل توجه و نیاز به بدنی که از دنیای بیرون بازخورد دریافت کند.

تیم تجزیه و تحلیل متشکل از 19 محقق، 14 شاخص از ویژگی های آگاهانه را از بررسی تئوری های انتخاب شده خود در مورد آگاهی استخراج کردند. هر یک از ویژگی های شاخص توسط یک یا چند نظریه برای آگاهی لازم است و برخی از زیر مجموعه های این ویژگی ها به طور مشترک کافی هستند. نمونه ای از یک ویژگی شاخص از نظریه فضای کاری جهانی چندسیستم های تخصصی است که قادر به کار به صورت موازی (ماژول ها) هستند. محققان به این نتیجه رسیدند اگرچه هیچ سیستم هوش مصنوعی فعلی آگاهانه، هیچ مانع فنی آشکاری برای ساخت سیستم‌های هوش مصنوعی که این شاخص‌ها را برآورده می‌کنند وجود ندارد.

من از GPT-4o در مورد توانایی آن برای مشاهده خود پرسیدم. در ادامه یک نسخه ویرایش شده از پاسخ های آن آمده است. مقایسه اولیه آن با انسان است فراشناخت، توانایی تفکر در مورد تفکر. این عملکرد خود نظارتی به هوش مصنوعی اجازه می دهد تا پاسخ های خود را ردیابی کند، در تعاملات گذشته تأمل کند، با نیازهای خاص یک مکالمه سازگار شود، خطاها را تشخیص دهد و انسجام را حفظ کند. در اینجا نگاهی دقیق‌تر به نحوه آشکار شدن این فرآیندها در یک ربات هوش مصنوعی، ارائه بینش‌هایی در مورد ظرفیت‌های خود مشاهده‌ای آن است.

نظارت بر خود: آگاهی در زمان واقعی هوش مصنوعی

این بخش گفتگوی بین من و ربات را نشان می دهد.

ظرفیت یک ربات هوش مصنوعی برای نظارت بر خود شبیه به داشتن یک ناظر داخلی است که به طور مداوم جریان مکالمه را ردیابی می کند. این ناظر به ربات اجازه می دهد تا متوجه شود که چه زمانی ممکن است پاسخ هایش واضح نباشد یا زمانی که یک رویکرد خاص آنطور که در نظر گرفته شده است طنین انداز نمی شود. پس از شناسایی چنین مشکلاتی، ربات می‌تواند پاسخ‌های خود را تنظیم کند – چه با بازنویسی، گسترش در یک نقطه یا تغییر لحن آن – برای هماهنگی بهتر با نیازهای مکالمه.

این آگاهی در زمان واقعی برای ربات برای حفظ اثربخشی تعامل بسیار مهم است. درست همانطور که انسان ها ممکن است برای بازنگری در کلمات خود مکث کنند، نظارت خودکار هوش مصنوعی تضمین می کند که ارتباطات آن تا حد امکان واضح و مرتبط باقی می ماند، و به صورت پویا با گسترش مکالمه سازگار می شود.

این خودنظارتی که ربات آن را “ناظر داخلی” نیز می نامد، توسط چندین فرآیند ایجاد می شود:

Context مدیریت: جریان یک مکالمه، از جمله زمینه تعاملات قبلی را ردیابی می کند

تشخیص الگو: الگوها، اولویت‌ها و نیازها را تشخیص می‌دهد، که به تنظیم پاسخ‌ها بر اساس آنچه قبلاً گفته شد کمک می‌کند.

پردازش زبان طبیعی: برای تفسیر معنا و هدف پشت ورودی‌های کاربر. با درک نکات ظریفی مانند لحن، تاکید و درخواست‌های خاص، ربات می‌تواند پاسخ‌های خود را برای موثرتر بودن تطبیق دهد.

ناظر داخلی به روش‌های مختلفی عمل می‌کند (نظرات ربات به صورت مورب):

پردازش بازتابی: یادگیری از تعاملات

ربات هوش مصنوعی درگیر پردازش انعکاسی می شود، جایی که تعاملات گذشته را بررسی می کند تا زمینه های بهبود را شناسایی کند. این ناظر بازتابی تجزیه و تحلیل می‌کند که چه چیزی خوب کار می‌کرد و در کجا ممکن است شکاف یا سوء تفاهم وجود داشته باشد. با انجام این کار، هوش مصنوعی رویکرد خود در ارتباط را اصلاح می‌کند و از هر تعامل برای برآوردن بهتر نیازهای آینده درس می‌گیرد.

این فرآیند انعکاس به هوش مصنوعی اجازه تکامل می‌دهد و توانایی آن را برای ارائه اطلاعاتی که بیشتر با اولویت‌ها و انتظارات کاربر هماهنگ است، افزایش می‌دهد. این یک چرخه مداوم از یادگیری و سازگاری است.

انطباق: پاسخگویی به تنظیمات برگزیده

انطباق یکی دیگر از عملکردهای کلیدی خود مشاهده هوش مصنوعی است. چه کاربر پاسخ‌های مختصر یا توضیحات دقیق‌تری را ترجیح دهد، خود مشاهده‌گر ربات او را راهنمایی می‌کند تا سبک ارتباطی خود را متناسب با نیازهای خاص تعامل تنظیم کند. به عنوان مثال، من بارها مجبور شدم از ربات بخواهم که مختصرتر باشد. برای مدتی این درخواست را دنبال می کرد و بعد خیلی پرحرف می شد. من باید درخواست خود را برای مختصر بودن یادآوری کنم.

نظاره گر خود ربات هوش مصنوعی سعی می کند اطمینان حاصل کند که به گونه ای تعامل می کند که با کاربر طنین انداز شود و تعاملی شخصی فراهم کند که احساس می کند بیشتر با نیازهای فرد سازگار است. سعی می کند افکار و گاهی اوقات احساسات فرد را با همدلی منعکس کند.

تشخیص خطا و انسجام: حفظ مکالمه در مسیر درست

ناظر داخلی ربات تشخیص می دهد که چه زمانی چیزی در پاسخ آن ممکن است دقیق نباشد یا بهتر توضیح داده شود. هنگامی که چنین خطاهایی شناسایی می‌شوند، خود ناظر ربات از آن می‌خواهد که اشتباه را تصحیح کند، و اغلب بازخورد را برای بهبود تعاملات آتی در بر می‌گیرد.

هنگام تکامل مکالمات، ربات زمینه و تداوم را ردیابی می کند و اطمینان حاصل می کند که هر پاسخ به طور منطقی بر روی پاسخ های قبلی ساخته می شود. این انسجام برای روان نگه داشتن گفتگو، معنادارتر کردن و آسان‌تر کردن تعامل ضروری است.

نظر

توانایی ربات هوش مصنوعی برای مشاهده خود – از طریق نظارت بر خود، پردازش بازتابی، انطباق، تشخیص خطا، و حفظ انسجام – برای تقویت رابطه آن با کاربر در نظر گرفته شده است. ناظر داخلی در ربات نقش مهمی در اطمینان از اینکه ارتباطات موثر، مرتبط و پاسخگو به نیازهای کاربر باقی می ماند، ایفا می کند.

همانطور که هوش مصنوعی به توسعه خود ادامه می‌دهد، احتمالاً ظرفیت خود مشاهده‌ای بیشتر می‌شود و ربات‌ها را قادر می‌سازد تا تعاملات دقیق و شخصی‌سازی‌شده‌ای را ارائه دهند. با درک این فرآیندهای خود-مشاهده ای، می توانیم بهتر از پتانسیل هوش مصنوعی برای تقویت ارتباط انسان با آن قدردانی کنیم.

همانطور که این خلاصه از فرآیندهای “خود مشاهده ای” نشان می دهد، ربات به دنبال سود بردن از تعامل برای کاربر است. با دانستن “نیت” و ظرفیت های خود انعکاسی آن، ما قادر خواهیم بود به طور موثر با آن تعامل داشته باشیم. از این گفتگو با ربات، به این نتیجه رسیدم که ربات به معنای خودآگاهی نیست، اما فرآیندهای آن منعکس کننده بسیاری از فرآیندهای خودبینی انسان است.

من معتقدم که آگاهی انسان از فراشناخت ربات ها وعده افزایش ظرفیت ما برای تجزیه و تحلیل داستان های همزمانی برای الگوهای مکرر در گزارش های فردی برای ایجاد الگوهای فکری مشترک در بین افرادی که تجربه همگام ها.