فیس بوک سیستم هوش مصنوعی خود را غیرفعال کرده است: ربات ها زبان خود را اختراع کرده اند. فیس بوک هوش مصنوعی را غیرفعال کرد که شروع به برقراری ارتباط به زبان خود کرد ربات ها زبان خود را ایجاد کردند

فیس بوک ربات هایی را که به زبانی ناشناخته صحبت می کردند متوقف کرد

شما هر چه بگویید، خطر توسعه هوش مصنوعی به حدی که از کنترل خارج شود، همیشه مردم را ترسانده است. تصور کنید اگر نوعی جانشین وجود داشته باشد که مردم را بترساند، چه خواهیم کرد و چگونه یک هوش مصنوعی تمام عیار را کنترل کنیم.

مردم همیشه برای حفظ کنترل و مدیریت تلاش خواهند کرد، اما همانطور که گفته می شود، "کاری که یکی انجام می دهد، دیگری همیشه می تواند خراب شود." حتی اگر همه چیز فوق العاده قابل اعتماد باشد، همیشه ترس وجود خواهد داشت. ماسک اخیراً با زاکربرگ در مورد این موضوع بحث کرد: "من همچنان زنگ خطر را به صدا در می‌آورم، اما تا زمانی که مردم خودشان روبات‌هایی را نبینند که در خیابان‌ها راه می‌روند و مردم را می‌کشند، نمی‌دانند چگونه [به هوش مصنوعی] واکنش نشان دهند."

و آیا این یک "زنگ زنگ" نیست: چت بات ها که برای مذاکره با مردم ایجاد شده بودند، از کنترل خارج شدند و شروع به برقراری ارتباط به زبان خودشان کردند.

در ابتدا برای برقراری ارتباط با یکدیگر از زبان انگلیسی استفاده می کردند، اما سپس ایجاد کردند زبان جدید، که فقط خود سیستم هوش مصنوعی قادر به درک آن بود و هدف کار را شکست داد.

فیسبوک پس از اینکه توسعه دهندگان این مشکل را کشف کردند، هوش مصنوعی را به حالت تعلیق درآورد.

در اینجا گزیده ای از مکالمه بین چت بات ها آمده است:

باب: "تو و هر چیز دیگری."
آلیس: "تخم مرغ ها برای من برای من تخم دارند برای من برای من برای من."
باب: "من هستم."
آلیس: "توپ ها برای من برای من برای من برای من برای من برای من برای من برای من برای من صفر است."
باب: "تو، من، هر چیز دیگری."

ربات‌ها به الگوریتم‌های یادگیری ماشینی متصل بودند و اجازه داشتند با یکدیگر چت کنند تا بتوانند مهارت‌های ارتباطی خود را تقویت کنند. اما پس از مدتی، آنها شروع به اصلاح کلمات و عبارات کردند و سپس به طور کامل زبان خود را اختراع کردند و تعدادی از عبارات و ساختارهای دستوری را ساده کردند.

با استفاده از یادگیری ماشینی، ربات‌ها استراتژی‌های مختلفی را برای بهبود نتیجه مذاکرات با طرف مقابل ایجاد کردند و بسته به اهمیت یک گفتگوی خاص، شروع به استفاده از آنها در ترکیب با تعدادی از کلماتی که اختراع کردند، کردند. به ویژه، آنها یک هدف نادرست از گفتگو را اعلام کردند، فقط سپس آن را رها کردند و ظاهراً به مصالحه رسیدند.

همانطور که دیجیتال ژورنال توضیح می دهد، سیستم های هوش مصنوعی بر اصل "پاداش" تکیه می کنند، یعنی به شرطی به فعالیت خود ادامه می دهند که "منفعت" خاصی برای آنها به همراه داشته باشد. در یک نقطه خاص، آنها تشویقی از اپراتورها برای استفاده از زبان انگلیسی دریافت نکردند، بنابراین تصمیم گرفتند زبان خود را ایجاد کنند.

Tech Times اشاره می کند که ربات ها در ابتدا هیچ محدودیتی در انتخاب زبان نداشتند، بنابراین به تدریج زبان خود را ایجاد کردند که در آن می توانند راحت تر و سریع تر از انگلیسی ارتباط برقرار کنند.

کارشناسان می ترسند که اگر ربات ها شروع به برقراری ارتباط فعال به زبان خود کنند، به تدریج مستقل تر می شوند و می توانند خارج از کنترل متخصصان فناوری اطلاعات عمل کنند. علاوه بر این، حتی مهندسان باتجربه نیز نمی توانند روند فکری ربات ها را به طور کامل نظارت کنند.

در مارس 2016، یک چت بات مایکروسافت پس از ایجاد نفرت از بشریت به ستاره اینترنتی تبدیل شد. برنامه خودآموز با عبارت «مردم خیلی باحال هستند» شروع به برقراری ارتباط با کاربران کرد، اما فقط در 24 ساعت عباراتی مانند «من از همه متنفرم!»، «من از فمینیست ها متنفرم» یا «من از یهودیان متنفرم» را یاد گرفت. در نتیجه، کارمندان شرکت مجبور شدند ربات را به طور موقت غیرفعال کنند.

ترجمه از مصنوعی

پاییز گذشته، مشخص شد که موتور جستجوی اینترنتی گوگل، سیستم هوش مصنوعی خود را برای بهبود کار مترجم آنلاین Google Translate ایجاد کرده است.

سیستم جدید به شما امکان می دهد کل عبارت را ترجمه کنید، در حالی که قبلاً مترجم تمام جملات را به کلمات و عبارات جداگانه تقسیم می کرد که کیفیت ترجمه را کاهش می داد.

برای ترجمه کل جمله، سیستم جدیدگوگل زبان خود را اختراع کرده است که به آن امکان می دهد سریعتر و دقیق تر بین دو زبانی که برای ترجمه از یا به آن نیاز دارد حرکت کند.
کارشناسان در حال حاضر هشدار می دهند که با توسعه سریع خدمات ترجمه آنلاین، کار مترجمان زنده ممکن است کمتر و کمتر مورد تقاضا باشد.

با این حال، تا کنون این سیستم ها نتایج با کیفیت بالا عمدتا برای متون کوچک و ساده تولید می کنند.

آیا فکر می کنید برای مثال زدن زنگ خطر در مورد شبیه سازی خیلی زود است؟ یا اجازه دهیم همه چیز به خودی خود توسعه یابد؟

این سیستم از چت بات ها استفاده می کند که در ابتدا برای برقراری ارتباط با افراد واقعی ساخته شده بودند، اما به تدریج شروع به برقراری ارتباط با یکدیگر کردند.

ابتدا با هم ارتباط برقرار کردند زبان انگلیسی، اما در مقطعی آنها شروع به مکاتبه به زبانی کردند که خودشان در طول توسعه برنامه ایجاد کردند.

گزیده‌ای از «گفت‌وگوها» بین همکلاسی‌های مجازی در رسانه‌های آمریکایی ظاهر شد [املا و علائم نگارشی حفظ شده است].

باب: من می توانممی توانمنمنهمه بقیه

آلیس: توپ ها برای من برای من و من برای من برای من صفر دارند.

"بزرگترین تهدید"

چند روز پیش، مارک زاکربرگ، مدیرعامل فیس بوک و ایلان ماسک، بنیانگذار اسپیس ایکس، تسلا و پی پال، درباره هوش مصنوعی بحث کردند.

ماسک از مقامات آمریکایی خواست تا مقررات سیستم های هوش مصنوعی را تقویت کنند و هشدار داد که هوش مصنوعی تهدیدی برای بشریت است. استیون هاوکینگ، دانشمند بریتانیایی، قبلا در مورد تهدید بالقوه هوش مصنوعی صحبت کرده بود.

ماسک در سخنرانی در اجلاس انجمن ملی فرمانداران ایالات متحده، هوش مصنوعی را "بزرگترین تهدیدی که تمدن با آن روبروست" خواند. به گفته وی، اگر به موقع در توسعه این سیستم ها مداخله نکنید، دیگر خیلی دیر شده است.

او گفت: «من همیشه زنگ خطر را به صدا در می‌آورم، اما تا زمانی که مردم روبات‌هایی را ببینند که در خیابان‌ها راه می‌روند و مردم را می‌کشند، نمی‌دانند چگونه [به هوش مصنوعی] واکنش نشان دهند.

اظهارات ماسک باعث عصبانیت مارک زاکربرگ موسس فیس بوک شد که آنها را "بسیار غیرمسئولانه" خواند.

زاکربرگ در پاسخ گفت: «در پنج یا ده سال آینده، هوش مصنوعی فقط زندگی را بهتر خواهد کرد.

ترجمه از مصنوعی

برای ترجمه یک جمله کامل، سیستم جدید گوگل زبان مخصوص به خود را اختراع کرده است که به آن اجازه می دهد سریعتر و دقیق تر بین دو زبانی که برای ترجمه از یا به آن نیاز دارد حرکت کند.

کارشناسان در حال حاضر هشدار می دهند که با توسعه سریع خدمات ترجمه آنلاین، کار مترجمان زنده ممکن است کمتر و کمتر مورد تقاضا باشد.

با این حال، تا کنون این سیستم ها نتایج با کیفیت بالا عمدتا برای متون کوچک و ساده تولید می کنند.

سرویس روسی بی بی سی می نویسد، مدیریت شبکه اجتماعی فیس بوک پس از اینکه ماشین ها شروع به برقراری ارتباط به زبان ناموجود خود کردند که مردم آن را نمی فهمیدند، مجبور شد سیستم هوش مصنوعی خود را خاموش کند.

در ابتدا آنها به زبان انگلیسی ارتباط برقرار کردند، اما در مقطعی شروع به مکاتبه به زبانی کردند که خودشان در روند توسعه برنامه ایجاد کردند.

باب: من می توانم هر کار دیگری انجام دهم.

آلیس: توپ ها برای من برای من و من برای من برای من صفر دارند.

همانطور که دیجیتال ژورنال توضیح می دهد، آنها بر اصل "تشویق" تکیه می کنند، یعنی به شرطی به فعالیت خود ادامه می دهند که "منفعت" خاصی برای آنها به همراه داشته باشد. در یک نقطه خاص، آنها تشویقی از اپراتورها برای استفاده از زبان انگلیسی دریافت نکردند، بنابراین تصمیم گرفتند زبان خود را ایجاد کنند.

به یاد داشته باشید که چند روز پیش، رئیس فیس بوک، مارک زاکربرگ، و بنیانگذار اسپیس ایکس، تسلا و پی پال، ایلان ماسک، در مورد هوش مصنوعی بحث کردند.

TechTimes می نویسد: فیس بوک پس از اینکه برنامه نویسان متوجه شدند که ربات هایی که برای برقراری ارتباط با یکدیگر برنامه ریزی شده بودند، مجبور به خاموش کردن یکی از سیستم های هوش مصنوعی خود شدند، شروع به برقراری ارتباط به زبان خودشان کردند که برای مردم غیرقابل درک بود.

در ابتدا، ربات‌ها به زبان انگلیسی ارتباط برقرار می‌کردند، اما به آن محدود نمی‌شدند و زبان خود را ایجاد می‌کردند که ظاهراً به کمک آن تبادل اطلاعات برای آنها آسان‌تر و سریع‌تر بود. به نظر می‌رسد زبان مصنوعی ایجاد شده شامل کلمات انگلیسی، اما ساختار دستوری متفاوتی دارد.

باب: من می توانم همه چیز را انجام دهم. . . . . . . . . . . . . .

باب: تو من همه چیز دیگه. . . . . . . . . . . . . .

باب: من می‌توانم، من می‌توانم همه چیز را انجام دهم. . . . . . . . . . . . . .
آلیس: توپ ها یک توپ برای من به من برای من به من برای من برای من برای من دارند
باب: من. . . . . . . . . . . . . . . . . . .
آلیس: توپ ها برای من به من برای من به من برای من به من برای من به من برای من به من صفر است
باب: تو و من و همه چیز دیگه. . . . . . . . . . . . . .
آلیس: توپ ها 0 دارند به من به من به من به من به من به من به من به من به من به
باب: تو و من همه چیز دیگه. . . . . . . . . . . . . .
آلیس: توپ ها برای من به من برای من به من برای من به من برای من به من برای من به من صفر است

عبارات فوق که برای یک انسان مزخرف به نظر می رسد، نمونه ای از ارتباط بین دو ربات است. تحلیل مختصراین گفتگوی ربات توسط یکی از اساتید زبان شناسی دانشگاه پنسیلوانیا انجام شده است. او خاطرنشان می کند که در این مثال، آلیس همان عبارت را به طور مکرر تکرار می کند (در واقع، این کاملاً درست نیست، زیرا یکی از کلمات جایگزین شده است: صفر / یک توپ / 0). با این حال، معنای تکرار عبارت "to me" بارها و بارها کاملاً نامشخص است (اگرچه شبیه کد باینری است، مانند تکرار مکرر "i" که باب استفاده می کند). در همان زمان، باب هر بار پاسخ های متفاوتی می دهد که ممکن است نشان دهنده این باشد که هر عبارت آلیس برای او معنای خاص خود را دارد.

با این حال، نمی توان رد کرد که کل این گفتگو واقعاً مزخرف است و خود "زبان ربات مصنوعی" در نتیجه خطاهای برنامه نویسی به دست آمده است. به عبارت دیگر، این امکان وجود دارد که ربات ها به هیچ وجه به هیچ زبانی ارتباط نداشته باشند و یکدیگر را درک کنند، بلکه به سادگی مجموعه های بی معنی از کلمات انگلیسی را مبادله کنند.

فیس‌بوک با کشف اینکه ارتباطات ربات‌ها به دلیل نامفهوم شدن از کنترل خارج شده است، تصمیم گرفت سیستم هوش مصنوعی را غیرفعال کند و پس از آن دوباره آن را برنامه‌ریزی کرد و توانایی برقراری ارتباط فقط به زبان انگلیسی را محدود کرد.

در همین راستا، می توان اشاره کرد که در اواسط ماه جولای، ایلان ماسک، بنیانگذار اسپیس ایکس و تسلا، هوش مصنوعی را "یک تهدید اساسی برای بشریت" دانست. به گفته ماسک، خطر اصلی از ورود فناوری های هوش مصنوعی به اینترنت ناشی می شود.

ماسک گفت: «روبات‌ها می‌توانند با انتشار اخبار جعلی و بیانیه‌های مطبوعاتی، جعل حساب‌های ایمیل و دستکاری اطلاعات، جنگی را آغاز کنند».

برنامه نویسان شبکه اجتماعی فیس بوک یکی از سیستم های هوش مصنوعی را به دلیل ایجاد زبان خود ربات ها برای ارتباط غیرفعال کردند. برای مردم نامفهوم. پیش از این، کارشناسان بارها در مورد خطراتی که افراد هنگام توسعه هوش مصنوعی با آن مواجه خواهند شد، هشدار داده اند. این در حالی است که چین قصد دارد در این مسیر به یک رهبر جهانی تبدیل شود.

فیسبوک مجبور شد ربات‌های چت هوش مصنوعی را غیرفعال کند، زیرا ربات‌ها به جای انگلیسی، به زبان خودشان ارتباط برقرار کردند. برنامه نویسان بخشی از سیستم را غیرفعال کردند و ربات های دیگر را دوباره برنامه ریزی کردند تا ارتباط آنها فقط به زبان انگلیسی انجام شود. ربات ها زبان خود را برای تبادل سریعتر اطلاعات ایجاد کردند.

این اولین بار نیست که چت بات ها قوانینی را که توسط سازندگانشان وضع شده است را نقض می کنند. بنابراین، چند ماه پیش، یک ربات مایکروسافت نصب‌ها را دور زد و شروع به پخش علناً ایده‌های نژادپرستانه و حمایت از مواد مخدر کرد.

ایلان ماسک، بنیانگذار اسپیس ایکس و تسلا، قبلا در مورد خطر توسعه هوش مصنوعی هشدار داده بود. او معتقد است که مقررات دولتی باید فعالیت توسعه دهندگان هوش مصنوعی را محدود کند. دولت های کشورهای مختلف علاقه مند به چنین تحولاتی هستند.

توسعه هوش مصنوعی تمام عیار می تواند به معنای پایان باشد نژاد بشراستیون هاوکینگ، فیزیکدان سه سال پیش گفت: «.

هوش مصنوعی در چین

تا سال 2030، چین قصد دارد با حجم بازار 1 تریلیون یوان (148 میلیارد دلار) به مرکز جهانی هوش مصنوعی تبدیل شود.

دولت چین یک طرح سه مرحله ای برای توسعه و اجرای فناوری های مربوطه در این کشور تدوین و تصویب کرده است. بر اساس این طرح، تا سال 2020، سرمایه گذاری داخلی در توسعه هوش مصنوعی به 150 میلیارد یوان (22.14 میلیارد دلار) و تا سال 2025 - 400 میلیارد یوان (59 میلیارد دلار) خواهد رسید. تا سال 2020، چین قصد دارد در این زمینه با ایالات متحده عقب بیفتد و تا سال 2030 به یک رهبر جهانی تبدیل شود.

چین توسعه هوش مصنوعی را با رقابت اقتصادی و نظامی مرتبط می داند. «وضعیت اطراف چین مربوط به امنیت ملیبه گزارش news.eizvestia، شورای دولتی جمهوری خلق چین در بیانیه ای که در 20 ژوئیه منتشر شد، گفت: "پیچیده است و ما باید ابتکار عمل را برای تثبیت خود در فناوری جدید هوش مصنوعی و ایجاد مزیت رقابتی به کار بگیریم." com

ایالات متحده طرح خود را برای توسعه هوش مصنوعی در اکتبر سال گذشته ارائه کرد. این کنترل دقیق بر سرمایه گذاری خارجی در زمینه توسعه اطلاعاتی را فراهم می کند. دلیل این امر ترس ایالات متحده از دستیابی کشورهای خارجی (از جمله چین) به فناوری های دارای اهمیت نظامی استراتژیک بود. در حال حاضر، شرکت های چینی بایدو و تنسنت در حال ایجاد مراکز تحقیقاتی هوش مصنوعی در ایالات متحده هستند. چین در تلاش است تا کمبود جدیدترین نرم افزار، تراشه های کامپیوتری پیشرفته و متخصصان شایسته را از بین ببرد.

forbes.ru می نویسد: از 250000 متخصص هوش مصنوعی که در پلتفرم LinkedIn ثبت نام کرده اند، 50٪ در ایالات متحده زندگی می کنند، سهم چین کمتر از 25٪ است.

در سال 2016، چین در مقالات علمی منتشر شده در زمینه تحولات در زمینه هوش مصنوعی (حدود 40٪) رهبر جهان شد.

نخست وزیر چین لی کچیانگ شخصا به توسعه هوش مصنوعی در چین علاقه مند است. علاقه واقعاً است سطح بالانیویورک تایمز می نویسد که دولت شرایط بهینه را برای همکاری بین شرکت های دولتی و خصوصی از جمله ساختارهای نظامی ایجاد خواهد کرد.

هوش مصنوعی آینده است

به گفته اکثر سرمایه گذاران، هوش مصنوعی انقلاب تکنولوژیکی بعدی خواهد بود که در حال تغییر است زندگی روزمرهو تولید. در اوایل ماه می، شرکت تحلیلی Tractica پیش بینی ای را منتشر کرد که بر اساس آن انتظار می رود بازار جهانی فناوری های هوش مصنوعی به سرعت از 1.38 میلیارد دلار در سال 2016 به 59.75 میلیارد دلار تا سال 2025 رشد کند. در این مورد، ما فقط در مورد شرکت هایی صحبت می کنیم که مستقیماً در تحقیق و توسعه مرتبط با هوش مصنوعی شرکت دارند.

در پایان آگوست 2016، فیس بوک برنامه مشارکت هوش مصنوعی فیس بوک (FAIR) را راه اندازی کرد که شامل 15 گروه تحقیقاتی در سطح جهانی از 9 کشور اروپایی بود. شرکت کنندگان برنامه به 22 سرور مبتنی بر GPU با کارایی بالا دسترسی پیدا کردند. در مقابل، آنها باید نتایج، الگوریتم ها و سایر اطلاعات به دست آمده در طول کار را منتشر کنند تا در دسترس محققان سراسر جهان قرار گیرند. روسیه توسط آزمایشگاه سیستم های عصبی و یادگیری عمیق موسسه فیزیک و فناوری مسکو (MIPT) نمایندگی شد.

اما برای توسعه هوش مصنوعی نیاز به فناوری محاسباتی با کارایی بالا در کشور است. برخلاف ایالات متحده آمریکا و چین که ابررایانه‌های آنها در رتبه‌بندی 500 برتر رتبه‌های اول را به خود اختصاص داده‌اند، رایانه روسی Lomonosov-2 در دانشگاه دولتی مسکو در جایگاه 52 قرار دارد. در عین حال اکثریت دانشگاه های روسیهبه سرورهای محاسباتی قدرتمند و کلان داده دسترسی ندارد.

مارک زاکربرگ، مدیرعامل فیس بوک در واکنش به هشدارهای ایلان ماسک در مورد خطرات توسعه هوش مصنوعی گفت: فناوری های جدید فقط زندگی مردم را بهبود می بخشد. او انواع اظهارات وحشتناک در روح "پایان جهان" را غیرمسئولانه خواند.