Три принципа, без които изкуственият интелект ще полудее

Безопасността на изкуствения интелект е тема, която тревожи все повече учени и обществото като цяло. Илон Мъск, един от иноваторите в сферата на AI чрез своята компания xAI, очерта рамка за безопасен изкуствен интелект – три принципа, без които технологиите рискуват да полудеят.

В подкаст с индийския милиардер Никил Камат, Илон Мъск отново предупреди за заплахите, породени от изкуствения интелект, и подчерта три ключови принципа, които според него трябва да са в основата на безопасното развитие на технологията: истина, красота и любопитство.

Игнорирането на тези принципи може да доведе до генериране на опасни заключения от изкуствения интелект, загубил връзка с реалността, коментира Илон Мъск, цитиран от CNBC.

Мъск, който е главен изпълнителен директор на Tesla, SpaceX, xAI, X, Neuralink и The Boring Company, смята, че мощните технологии са по своята същност потенциално опасни, особено ако не са ориентирани към обективната реалност.

Той отбеляза, че когато е обучен върху интернет данни, AI неизбежно абсорбира невярна информация, което може да наруши способността му да разсъждава логично и да доведе до „безумни” или разрушителни заключения.

В подкрепа на тази идея Мъск цитира проблема с „халюцинациите” или генерирането на фалшиви или подвеждащи отговори от системите с изкуствен интелект, който вече се проявява в реални AI приложения.

Например, в началото на 2025 г. функцията Apple Intelligence на iPhone разпространи фалшиво известие за победата на британския играч на дартс Люк Литлър в шампионата на PDC, преди той действително да спечели турнира.

Мъск също така подчерта значението на естетическото възприятие и желанието за знания, заявявайки, че изкуственият интелект трябва да се интересува от природата на реалността и бъдещето на човечеството, а не да бъде инструмент за неговото унищожение.

Позицията на Мъск отразява възгледите на „кръстника на изкуствения интелект” Джефри Хинтън, който по-рано оцени вероятността от изчезване на човечеството, предизвикано от изкуствен интелект, на 10-20%.

Сред краткосрочните рискове Хинтън посочи халюцинациите и автоматизацията на работни места на начално ниво.

„Надяваме се, че ако достатъчно умни хора направят достатъчно изследвания, като им се предоставят достатъчно ресурси, ще намерим начин да създадем системи с изкуствен интелект, които никога не искат да ни навредят”, добави Хинтън.