Биологични и кибератаки са сред най-опасните рискове от бурното развитие на изкуствения интелект (снимка: CC0 Public Domain)
Изкуственият интелект се развива бързо и това предизвиква сериозни опасения сред водещите учени. По-рано този месец, в навечерието на AI Action Summit в Париж, видният канадски учен по изкуствен интелект и машинно обучение Йошуа Бенгио предупреди за потенциално вредните последици от надпреварата на технологичните гиганти да създават все по-мощни AI системи.
Бенгио, носител на престижната награда Тюринг за 2018 година, представи първия международен доклад за безопасността на изкуствения интелект в университета ENS в Париж. Той обърна внимание на вече широко признатите рискове от използването на AI, като например създаване на невярно или подвеждащо съдържание.
Професорът от университета в Монреал обаче подчерта, че „има постоянно появяващи се доказателства за допълнителни рискове, като биологични атаки или кибератаки”.
В дългосрочен план Бенгио се страхува, че хората ще „загубят контрол” над AI системите, което потенциално може да бъде мотивирано от „собственото им желание да оцелеят”. Появата миналия месец на китайския евтин, високопроизводителен AI модел DeepSeek „ускори надпреварата, което не е благоприятно за безопасността”, добави ученият, цитиран от TechXplore.
Бенгио призова за по-строго международно регулиране и по-широко изследване на безопасността на изкуствения интелект, което в момента съставлява „малка част” от огромните инвестиции, наливани в сектора. „Без намесата на правителството не знам как ще преминем през това”, каза ученият.
Съединените щати, все още водещата страна в AI, отхвърлиха опита на бившия президент Джо Байдън да наложи някои правила за развитие на AI след встъпването в длъжност на Доналд Тръмп.
Когато ChatGPT на OpenAI избухна на публичната сцена преди две години, Бенгио почувства „неотложна необходимост да мисли за сигурността”. Той представи доклад за риска от AI, изготвен по модела на документите от Междуправителствения панел по изменение на климата (IPCC).
„Това, което ме плаши най-много, е възможността човечеството да изчезне в рамките на 10 години. Това е ужасяващо. Не разбирам защо повече хора не осъзнават това”, каза ученият.
Около 100 експерти от 30 държави, представители на ООН, Европейския съюз и Международната организация за икономическо сътрудничество и развитие допринесоха за доклада, ръководен от Бенгио и публикуван в края на януари. Работата по него започна на предишната среща на върха за безопасността на AI, която се състоя в Обединеното кралство през ноември 2023 г.