Продължават коментарите от най-високо ниво за риска от изкуствения интелект. Не кой да е, а хората, които движат развитието на новата технология – шефовете на най-големите AI компании – озадачават обществото с предупрежденията си колко опасен може да бъде изкуственият интелект.
Сам Алтман, лидерът на OpenAI – компанията, която създаде ChatGPT и отприщи бума на изкуствения интелект – не дава гаранции, че AI винаги ще бъде напълно безопасен. В изказване на конференцията Dreamforce на Salesforce той заяви, че известен брой инциденти, свързани с новите технологии, са просто неизбежни.
Според него, от най-голямо значение всъщност е каква ще бъде реакцията на индустрията към инцидентите с изкуствен интелект, отбелязва Gizmochina.
„Наистина смятам, че с въвеждането на нови технологии е неизбежно да се стигне до определен брой инциденти“, каза Алтман. „За мен е от съществено значение да имаме добра култура на докладване на инциденти и извличане на поуки от тях“.
Алтман посочи като примери за реакция Федералната авиационна администрация (FAA) и Националния съвет за безопасност на транспорта (NTSB). Тези агенции разследват задълбочено всеки инцидент, а именно тази култура на учене от грешките е една от основните причини съвременният въздушен транспорт да бъде толкова безопасен.
Наскоро Джейкъб Хилтън – бивш изследовател в Anthropic и OpenAI – напусна компанията и започна да публикува мнения в X (преди Twitter), изразявайки опасения, че надпреварата в сферата на изкуствения интелект може да доведе до създаване на системи, които да унищожат човечеството.
Алтман не омаловажи тези опасения. Той призна, че обществените страхове, свързани с излизането на изкуствения интелект извън контрол или с прекомерната концентрация на власт в няколко лаборатории, са напълно разбираеми.
„Светът има основание да се страхува от изкуствения интелект“, откровен е шефът на компанията, която даде тласък на промените в света под въздействие на новата технология.
