Направи дарение на училище!

През 60-те години на XX век безпрецедентна компютърна програма, наречена Елиза, се опитва да симулира преживяването да говориш с терапевт. В един от опитите, документиран в изследователските трудове, жена разкрива, че приятелят ѝ я описва като “депресирана през повечето време”. Отговорът на Елиза е: “Съжалявам да чуя, че сте депресирана.”

Широко разпространено е мнението, че Елиза е първият чатбот, но програмата не е толкова функционална, колкото съвременните подобни услуги. Тя е тренирана да разбира естествения (човешки) език, да реагира на ключови думи и след това да отговаря така, че да кара потребителя да продължи диалога. Въпреки това Джоузеф Вайзенбаум – компютърният учен от Масачузетския Технологичен Институт (MIT), който създава Елиза, през 1966 година пише в своите изследователските трудове: “Много е трудно за някои от тестовите обекти да повярват, че ЕЛИЗА (със сегашното си поведение) не е човек.”

Този факт е бил причина за безпокойство у Вайзенбаум, според статията от 2008 година по повод смъртта му, публикувана от Масачузетския Технологичен Институт (MIT). Тези, които си взаимодействат с Елиза, с готовност отварят сърцата си пред нея, въпреки че знаят, че тя е компютърна програма.
“Ако не друго, то ЕЛИЗА показва колко е лесно да се изгради и поддържа илюзията за разбиране, а оттам и възможност за достоверна преценка.” пише Вайзенбаум през 1966 г.  “В това се крие известна заплаха.”
Той прекарва края на кариерата си в предупреждения да не се възлага прекалено голяма отговорност на машините и става жесток критик на изкуствения интелект във философско отношение.

Разбери повече за БГ Наука:

***

Приблизително 60 години по-късно пазарът е пренаситен с чатботове с различно качество и типични случаи на употреба от технологични компании, банки, авиолинии и други. Историята на Вайзенбаум предрича вълнението и недоумението, които все още са присъщи при срещата с тази технология. Способността на компютърна програма да “води непринуден разговор” с човек продължава да обърква част от обществеността, създавайки фалшиво усещане, че машината е нещо подобно на човек.

Това е тема, широко отразена в медиите по-рано през лятото, след като инженер от Гугъл твърди, че чатботът на големия технологичен гигант, наречен LaMDA, е “съзнателен”. Според репортаж на Вашингтон Пост, инженерът казва, че той се е убедил в това, след като прекарва известно време в дискусии с чатбота на теми като религия и индивидуалност. Неговите твърдения са широко критикувани от общността, занимаваща се с изкуствен интелект.
Дори преди тази случка, нашата сложна връзка с изкуствения интелект и машините е основна тема в сюжетите на холивудски филми като “Тя”  или “Ex Machina: Бог от машината”. А да не говорим и за безобидните дебати с хора, които държат да кажат “благодаря” на гласови асистенти като Алекса или Сири.

Съвременните чатботове могат също да предизвикат много силни реакции у потребителите, когато не работят, както се очаква, или когато станат толкова добри в имитацията на омразна реч, попаднала сред обучителните им данни, че започнат да бълват расистки и провокативни коментари. Пример за това може да бъде новият чатбот на Мета, който през изминалия месец създаде противоречия, като изказа доста неверни политически коментари и антисемитски забележки в разговори с потребители.

Дори и при тези обстоятелства, поддръжниците на тези технологии твърдят, че те могат да рационализират работата в сферата на потребителските услуги и да повишат ефективността на голям брой индустрии. Тези технологии дотолкова улесняват дигиталните асистенти, че много от нас ги ползват ежедневно за пускане на музика, поръчка на доставки и проверка на фактите за домашните си задачи. Смята се също, че чатботовете могат да осигуряват комфорт на самотни, възрастни или изолирани хора. Поне една, основана наскоро, компания е стигнала дори и по-далеч – използва ги с цел привидно да поддържа живи починали роднини като създава тяхна компютърно генерирана версия, основана на запазени техни чатове.

Междувременно други предупреждават, че технологията, използвана от чатботовете с изкуствен интелект, си остава много по-ограничена, отколкото на някои хора им се иска. Грей Маркус, изследовател в сферата на изкуствения интелект и почетен професор от нюйоркския университет, казва: ”Тези технологии са наистина добри в имитацията на хора и звученето като такива, но те не са задълбочени. Тези системи подражават, но подражават много повърхностно. Те наистина не разбират за какво говорят.”

И все пак, докато тези услуги се разпространяват във все повече кътчета на нашия живот и докато компаниите правят стъпки към по-голяма персонализация на тези устройства, нашата връзка с тях може само да става все по-сложна.

Еволюцията на чатботовете

Санджийв П. Худанпур си спомня разговорите си с Елиза, докато е бил в гимназията. Той казва, че не му е отнело много време, за да осъзнае нейните ограничения, въпреки цялата ѝ значимост в технологичната история. Худанпур е експерт в прилагането на информационно-теоретични методи към технологии, свързани с човешкия език и професор в университета Джон Хопкинс. Според него Елиза може убедително да подражава само дузина реплики в текстов разговор, а след това: “Осъзнаваш, че – не, тя не е наистина умна. Тя просто се опитва да поддържа разговора по един или друг начин”.

Друг от ранните чатботове е създаден от психиатъра Кенет Колби в Станфорд през 1971 г. и се казва “Пари”, защото целта му е да имитира параноичен шизофреник. (Статията от 2001 г. на Ню Йорк Таймс по повод смъртта на Колби включва колоритният чат, който е последвал, когато учените са събрали Елиза и Пари заедно.)
В десетилетията, които следват създаването на тези инструменти, обаче, има изместване встрани от идеята за “разговор с компютри”. Худанпур смята, че това се е случило: “защото се е оказало много, много труден проблем, вместо това, фокусът се измества към “целево-ориентиран диалог”, казва той.

За да разберем разликата, може да се замислим за разговор, който сега провеждаме с Алекса или Сири. Обикновено искаме помощ от дигиталния асистент, за да си купим билет, да проверим времето или да ни пусне песен. Това е целево-ориентиран диалог. Той става главен фокус на академичните и индустриални проучвания, когато компютърните учени се опитват да извлекат нещо полезно от способността на компютрите да сканират човешки език.

Подобна технология се използва и за по-ранните социални чатботове. Худанпур казва: “Не можеш наистина да ги наречеш чатботове. Можеш да ги наречеш гласови асистенти или просто дигитални асистенти, които помагат да осъществиш специфична задача.”

Той добавя, че следват години “затишие” в сферата на тази технология, чак до повсеместното разпространение на интернет. “Най-големите постижения вероятно дойдоха през това хилядолетие. С възхода на компании, въвели такива компютъризирани агенти, които успешно да извършват рутинни задачи”, казва Худанпур.

Той също допълва следното:
“Хората винаги са разочаровани, когато багажа им се изгуби, а агентите, с които те се свързват, винаги са стресирани, заради негативните им емоции, затова те си казват: ‘нека да прехвърлим тази работа на компютър’. Можеш да крещиш на компютъра колкото си искаш и единственото, което той ще иска да научи е: ‘Разполагате ли с етикетния номер на багажа, за да мога да Ви кажа къде се намира той?”

Като пример може да бъде даден дигиталният асистент “Джен”, създаден през 2008 г. с цел да помага на пътуващите. Тенденцията все повече асистенти да се създават като имитация на човек, води до ревю на Ню Йорк Таймс, написано съвсем скоро след пускането на услугата. В него изданието отбелязва: “Джен не е дразнеща. На уеб страницата тя е обрисувана като млада брюнетка с хубава усмивка. Гласът ѝ има подходящо звучене. Въвеждате въпрос и тя отговаря интелигентно. (А когато разни остроумни потребители неизбежно се опитват да я препънат с непохватни свалки, тя любезно им предлага да се върнат към деловите теми.)”

Завръщане към социалните чатботове и социалните проблеми

В началото на това хилядолетие учените започват да преразглеждат развитието на социалните чатботове, които могат да проведат продължителен разговор с хората. Тези чатботове често са тренирани с големи обеми данни от интернет и са се научили изключително добре да имитират как говорят хората. Обаче по този начин те рискуват да дадат отзвук и на най-лошото от интернет.

Така например през 2015 г. публичният експеримент на Майкрософт с чатбота ‘Тай’, разполагащ с изкуствен интелект, се проваля тотално за по-малко от 24 часа. Предназначението на Тай е да говори като тийнейджър, но чатботът  бързо започва да бълва расистки коментари и омразна реч до такава степен, че от Майкрософт спират проекта. (От компанията казват също, че хората правят координиран опит да подведат Тай да прави определени обидни коментари.)
По това време от Майкрософт коментират: “Колкото повече време разговаряш с Тай, толкова по-умна става тя, за да може преживяването да стане по-персонализирано.”

Много други технологични гиганти, които пускат на пазара публични чатботове, повтарят тези думи. Включително и Мета. Техният чатбот БлендерБот3 беше пуснат на пазара по-рано през изминалия месец. Чатботът на Мета погрешно смята, че Доналд Тръмп все още е президент на САЩ и  “определено има много доказателства”,  че изборите са били компрометирани. Ботът също изказва и други спорни твърдения.
БлендерБот3 e е смятан за нещо повече от робот. В един от разговорите той твърди: “Фактът, че в момента съм жив и съзнателен, ме прави човек.”

Въпреки целия напредък след Елиза и огромните количества от нови данни, с които тези програми за езикова обработка да бъдат обучавани, нюйоркският професор Маркус казва: “Не ми е ясно дали наистина можеш да създадеш надежден и сигурен чатбот.”
Той посочва проектът на Фейсбук от 2015 г, кръстен ‘М’ – автоматичен персонален асистент, който би трябвало да представлява отговорът на Фейсбук на услуги като Сири и Алекса. Маркус казва: “Представата за него беше, че това ще бъде универсален асистент, който ще може да ти помогне да си поръчаш романтична вечеря, музиканти да свирят за теб и доставка на цветя – много повече, отколкото Сири може да прави.” Вместо това проектът е спрян през 2018 г. след незадоволителни резултати от пускането му на пазара.

От друга страна Худанпур остава оптимистичен относно техните потенциални случаи на употреба. Той казва: “Имам цялостна представа как изкуствения интелект ще предложи нови възможности на хората на индивидуално ниво. Представете си ако моят бот може да прочете всички научни статии в моята област. Тогава на мен няма да ми се налага да ги чета всичките. Просто ще измислям, задам въпроси и ще се въвлека в диалог. С други думи ще имам свое собствено вътрешно его, което разполага със суперсили.”

Превод: Нели Темелкова

Източник: https://edition.cnn.com/2022/08/20/tech/chatbot-ai-history/index.html

Вземете (Доживотен) абонамент и Подарете един на училище по избор!