През последните няколко седмици големите технологични компании пристъпиха към пускане на своите нови търсещи машини, работещи с чатбот. Голямата идея е, че тези AI ботове биха променили преживяването ни при търсене в мрежата. Те следва да генерират такива отговори на въпросите ни, които звучат като реално човешко говорене, вместо просто да връщат списъци с връзки.
Но може ли да се вярва на търсачка с такъв елемент на изкуствен интелект? Още в самото начало някои потребители останаха изненадани или откровено потресени от резултатите, които получават. Защо се случи изненадата?
Да вярваш на статистически инструмент
Ето го проблемът: технологията не е готова да бъде използвана по този начин в такъв мащаб. Езиковите модели с AI са известни „глупаци“, които често пъти ни представят абсолютни неистини с категоричността на неоспорими факти. Това дори роди термина „халюцинация“, защото безсмислиците се редят с абсолютна „увереност“ и авторитетно звучащ тон. А това от своя страна е резултат от механизма на работа на ботовете – те са са отлични в предсказването на следващата дума в изречение, просто защото така са устроени – те са, по своята същност, статистически инструмент. Реално те нямат ум и нямат представа какво всъщност означава изречението. Това прави невероятно опасно комбинирането на ботовете с търсене.
[related-posts]
OpenAI, създателят на хитовия AI чатбот ChatGPT, винаги е подчертавал, че това все още е само изследователски проект и че непрекъснато се подобрява, тъй като получава обратната връзка от хората. Това не попречи на Microsoft да го интегрира в новата версия на Bing, макар и с предупреждения, че резултатите от търсенето може да не са надеждни.
Google използва обработка на естествен език от години, за да помогне на хората да търсят в интернет, като използват цели изречения вместо ключови думи. Досега обаче компанията не беше склонна да интегрира собствената си AI чатбот технология в своята знакова търсачка, казва Чираг Шах, професор във Вашингтонския университет, който специализира в онлайн търсене. Ръководството на Google се тревожи за „риска за репутацията“ от бързото пускане на инструмент, подобен на ChatGPT.
Миражът на цитатите
Разбира се, първоначалните шокове от появата на търсачки с чатбот елементи не означават, че търсенето, задвижвано от AI, е непременно загубена кауза. Един от начините, по който Google и Microsoft са се опитали да направят резюметата, генерирани от AI, по-точни, е като предлагат цитати. Свързването към източници позволява на потребителите да разберат по-добре откъде търсачката получава информацията си, казва Маргарет Мичъл, изследовател в стартъпа за изкуствен интелект Hugging Face, който е един от ръководителите на екипа по етика на изкуствения интелект на Google.
Това дори може да помогне на хората да боравят с по-разнообразна информация, казва Мичъл. Това може да ги подтиква да обмислят повече източници, отколкото биха прегледали иначе.
Но все пак тук не се решава основният проблем – че тези AI модели „измислят“ информация и уверено представят неистини като неоспорими факти. И когато текстът, генериран от AI, изглежда авторитетен и цитира куп източници, това по ирония на съдбата може да направи потребителите още по-малко склонни да проверяват информацията, която виждат.
„Много хора не проверяват цитатите. Наличието на цитат придава на текста излъчване на коректност, което всъщност може да не е така“, казва Мичъл.
Как ще продължи технологията?
Но точността на резултатите от търсенето всъщност не е основната задача за големите технологични компании, наричани „Big Tech“, казва Шах. Въпреки че Google изобрети технологията, която стои в основата сегашния шум около AI, одобрението и вниманието са насочени по-скоро към OpenAI и неговия покровител, Microsoft. „Определено е неудобно за Google. Сега са в отбранителна позиция. Те не са били в тази позиция от много дълго време“, казва Шах.
Междувременно Microsoft залага, че очакванията около Bing са толкова ниски, че няколко грешки наистина няма да имат значение. Microsoft има по-малко от 10% от пазарния дял при онлайн търсенето. Спечелването на още няколко процентни пункта би било огромна печалба за тях, казва Шах.
Но това не е всичко. Търсенето е само една от областите, в които двата технологични гиганта се съревновават помежду си. Те се конкурират и в облачните изчислителни услуги, софтуера за производителност и корпоративния софтуер. Разговорният AI се превръща в начин за демонстриране на авангардни технологии, които се пренасят в тези други области на бизнеса.
Шах смята, че компаниите ще представят ранните проблеми като възможности за обучение. „Вместо да подходят внимателно към това, те действат много смело. Нека [системата с изкуствен интелект] прави грешки, защото сега котката е извадена от торбата“, казва той.
През това време ние, потребителите, настървено експериментираме и по същество вършим работата по тестването на новата технология – безплатно. „Ние всички сме морски свинчета в този момент“, заключава Шах.
