„Бащата на интернет”: Трябва да опитомим изкуствения интелект

AI системите не винаги работят по начина, по който техните създатели биха искали
(снимка: CC0 Public Domain)

Винт Сърф, считан за „бащата на интернет”, призова инвеститорите да не хвърлят пари в базирани на AI чатботове като ChatGPT и Bard. Според него, технологията е твърде сурова, за да осигури бърза възвръщаемост, и поражда много етични проблеми.

Говорейки на конференция в Маунтин Вю, Калифорния (САЩ), Сърф отбеляза, че и ChatGPT, и Bard не винаги работят по начина, по който техните създатели биха искали. Инвестирането в тях просто защото е „готино” е идея, която може да е изкушаваща, но контрапродуктивна, смята легендата в интернет индустрията.

„Истината е, че не винаги разбираме какво може да се случи с тези технологии и честно казано, проблемът са хората… Ние, хората, не сме се променили през последните 400 години, още по-малко през последните 4000. Хората ще се стремят към това, което ще бъде от полза за тях, не за вас. Трябва да помним това и да бъдем по-селективни по отношение на технологиите”, казва той.

Винт Сърф е съразработчик на протокола за пренос на данни TCP/IP, който е основен за уеб, и работи в Google от 2005 г. като „водещ евангелист на интернет”. Интересното е, че поставяйки под въпрос приложимостта на базираните на изкуствен интелект чатботове, той по някакъв начин противоречи на интересите на собствената си компания, която разработва чатбота Bard. Но със статута си може да си го позволи.

Сърф разказва, че е помолил една от тези AI системи да добави емотикони в края на всяко изречение. Системата не е изпълнила това искане. Когато Сърф ѝ обръща внимание на този факт, тя се извинява, но не променя нищо в поведението си.

„Все още сме много далеч от осъзнаването или самоосъзнаването на AI”, казва експертът, отбелязвайки, че има разлика между това, което технологията обещава, и това, което прави, но не винаги е възможно да се разграничи правилният отговор от красноречиво формулиран такъв.

По-специално, изследователят е поискал от чатбота да напише собствената му биография. Ботът генерира текста с много неточности, но същевременно настоява, че всичко е базирано на факти.

„От техническа гледна точка смятам, че разработчиците като мен трябва да бъдат задължени да намерят начини да опитомят тези технологии, така че да е по-малко вероятно да причинят вреда”, добавя Сърф.

„И, разбира се, много зависи от приложението: едно е да имаш писмено есе, а друго е когато съветът, даден от машината… може да има медицински последствия. Много е важно да разберем как да минимизираме най-лошите сценарии”, посочва Винт Сърф.

Както ChatGPT, така и Bing вече бяха хванати да дават неправилни или умишлено грешни отговори на въпроси. Дори избухна скандал, когато изкуственият интелект на търсачката Bing започна да дава напълно неподходящи отговори и си позволи да обижда потребителите.

Основният проблем с AI е ефектът на „черната кутия”: никой не може да каже какво точно се случва в нея, коментират специалисти. В противен случай най-често срещаните проблеми на AI, като пристрастия, грешни отговори и т.н., отдавна щяха да са решени.

Винт Сърф е прав, че това са много груби и сурови технологии, но това не пречи да се използват в практиката. Какви ще са последствията в дългосрочен план? Мнозина са разтревожени, не без основание.