Стыў Вазняк, Ілон Маск і больш за 1 іншых гучных імёнаў падпісалі адкрыты ліст з патрабаваннем неадкладна спыніць на паўгода тэхналогіі штучнага інтэлекту, больш магутныя, чым ChatGPT-000.
Гэты год стаў годам, калі штучны інтэлект, такі як ChatGPT і Google Bard, стаў галоўнай тэндэнцыяй. Хаця ўсе кампаніі, якія займаюцца штучным інтэлектам, называюць свае прадукты эксперыментамі ці пэўнымі бэта-версіямі, іх функцыі інтэграваны ў многія сэрвісы. Зараз Інстытут будучыні жыцця заклікае да «публічнай і правяральнай» паўзы з удзелам «усіх ключавых гульцоў» у гэтай галіне. Калі такая паўза не можа быць ажыццёўлена хутка, урады павінны ўмяшацца і ўвесці мараторый.
Мэта Інстытута будучыні жыцця - "накіраваць трансфармацыйныя тэхналогіі на карысць жыцця і ўхіліць іх ад экстрэмальных рызык у вялікіх маштабах". перапынак, таму што ў апошнія месяцы лабараторыі штучнага інтэлекту выйшлі з-пад кантролю і пачалі распрацоўваць і разгортваць усё больш магутныя лічбавыя мазгі, якія ніхто, нават іх стваральнікі, не мог зразумець, прадбачыць або надзейна кантраляваць.
«Лабараторыі штучнага інтэлекту і незалежныя эксперты павінны выкарыстаць гэтую паўзу для сумеснай распрацоўкі і ўкаранення набору агульных пратаколаў бяспекі для праектавання і распрацоўкі ўдасканаленага штучнага інтэлекту, якія будуць строга кантралявацца і кантралявацца незалежнымі знешнімі экспертамі». паведамленне працягваецца. "Гэтыя пратаколы павінны гарантаваць бяспеку сістэм, якія ідуць за імі, па-за ўсякім сумневам".
Аднак гэта не азначае прыпынку развіцця штучнага інтэлекту ў цэлым, гэта павінна быць толькі адступленне ад небяспечнай гонкі за ўсё большымі непрадказальнымі мадэлямі чорнай скрыні з узнікаючымі магчымасцямі. Ліст падпісалі 1 асобы, у тым ліку:
- Элона Маск, генеральны дырэктар SpaceX, Tesla і Twitter
- Стыў Вазняк сузаснавальнік кампаніі Apple
- Яан Талін, сузаснавальнік Skype
- Эван Шарп, сузаснавальнік Pinterest