Направи дарение на училище!

Хората са слаби и уязвими, а машините – големи, метални и ги бива по математика. Лесно е да си помислиш, че биха решили да ни убият.

В медиите плъзнаха апокалиптични заглавия, намекващи за изкуствен интелект потенциален убиец, създаден в изследователската лаборатория по изкуствен интелект на Фейсбук: два бота се научили да говорят на свой таен и сложен език помежду си, което наложило изключването им. Едно от заглавията гласи: „Инженерите на Фейсбук са в паника, налага се да изключат изкуствен интелект, след като ботовете измислят свой език”, а в друга статия журналистът пише: „Няма достатъчно информация, за да се определи дали те представляват предпоставка машините да надмогнат създателите си.”

„Тайни езици” звучи престъпно – за какво ли си говорят?! Какво имат да крият компютрите от нас? Изследването, което предизвика толкова много шум, имаше за цел да се установи дали Фейсбук може да накара ботовете да преговарят. Ако имаше две круши, един портокал и една ябълка и всеки бот искаше един конкретен плод, биха ли могли да си ги поделят така, че всеки да получи това, което иска?

Ботовете направили точно това, за което били програмирани: да се спазарят за несъществуващи предмети. Те развили нов начин за комуникация помежду си, защото компютрите не говорят английски – както ние използваме „х” за неизвестно число в математиката, така и ботовете започнали да използват други букви, вместо по-дълги думи и идеи, като „iii” вместо „искам” или „портокал”.

Разбери повече за БГ Наука:

***

Но това не е престъпно. Просто машините и хората не мислят по един и същи начин. За изкуствения интелект „ябълката” е просто дълга поредица от числа, определящи червения цвят, думата „ябълка” и отношението ѝ към други плодове. Тези машинни интерпретации не са интуитивни или дори разбираеми за човека, но въпреки това можем да определим какво си „мисли” машината, като я накараме да изпълни задача. Ако изкуственият интелект, създаден да разпознава снимките на ябълки, заснети при различна осветеност, то той разбира, че е ябълка, независимо какви числа използва за целта.

Целта на Фейсбук била да направи ботове, които комуникират на английски, но щом те в крайна сметка започнали да изграждат собствен малък код, Фейсбук спрял да работи върху прототипа и създал друг, по-умен бот, който работел именно на английски, според целта.

„Въпреки че идеята за изкуствени интелекти, създаващи собствен език може да звучи притеснително или неочаквано за хората, които не се занимават с тази наука, това е добре известна подобласт на изкуствения интелект, като публикации по темата има отпреди десетилетия”, пише изследователят от Фейсбук Dhruv Batra в блогпост, като нарича начина, по който новината беше отразена „безотговорен”.

С прости думи: машините не мислят, нито говорят като хората, затова се успокойте. Може би по-притеснителната новина не е, че ботовете на Фейсбук са измислили машинно четим език, а фактът, че успешният англоговорящ бот в крайна сметка се е научил да лъже.

Превод: Росица Ташкова

Източник: Quartz

Вземете (Доживотен) абонамент и Подарете един на училище по избор!