Днес вече е невъзможно да се определи дали публикациите в социалните мрежи всъщност са написани от хора или от чатботове с изкуствен интелект, оплаква се Сам Алтман, ръководител на OpenAI, в платформата X.
Алтман е забелязал това, когато изучавал дискусиите в платформата Reddit, посветени на услуги за писане на програмен код с помощта на AI – Anthropic Claude Code и OpenAI Codex.
Потребителите на онлайн общността създавали толкова много теми в нея за прехода си от Claude Code към Codex, че Алтман започнал да се чуди колко от тези публикации са написани от реални хора.
Шефът на OpenAI – компанията, която създаде изкуствения интелект ChatGPT, отбелязва няколко тенденции, поради които става все по-трудно да се прави разлика между публикации, написани от хора и AI.
Самите хора все по-често започват да копират езиковия стил на изкуствения интелект, в резултат на което границата между тях и AI ботовете се размива и в двете посоки.
Блогъри и ентусиасти, които прекарват изключително дълго време онлайн (Extremely Online), започват да действат заедно, едновременно публикувайки подобни материали, защото са подтикнати към това от алгоритмите на социалните мрежи.
Това явление се проявява, например, в стандартните трендови цикли: първоначално новите продукти се посрещат с ентусиазъм, който внезапно се заменя със също толкова единодушна критика.
Тенденцията се потвърждава и от факта, че повечето автори в социалните мрежи, в преследване на монетизация, публикуват ексцентрични текстове, зад които се крие все по-малко искреност.
В умели ръце всички тези механизми се превръщат в „астротурфинг” – имитация на обществена подкрепа за определено мнение. Сам Алтман отбелязва, че е имал възможност сам да изпита този ефект от конкурентите на OpenAI.
Ръководителят на AI разработчика посочва шума около не особено успешното пускане на флагманския голям езиков модел GPT-5 като едно от проявления на „астротурфинга”. Малко след пускането на модела Алтман провежда сесия с въпроси и отговори в Reddit, в която признава някои от проблемите, но не успява да възстанови предишното ниво на доверие.
„В крайна сметка се усеща, че AI-Twitter и AI-Reddit са станали неестествени по начин, който не беше такъв преди година-две”, оплаква се ръководителят на OpenAI, цитиран от TechCrunch.
Наистина е трудно да се определи делът на публикациите в Reddit, написани от изкуствен интелект, но той може да е значителен: според проучване, проведено от компанията за киберсигурност Imperva, повече от половината от целия интернет трафик през 2024 г. няма да бъде създаден от хора и това до голяма степен се дължи на AI моделите.
Според една от версиите, Алтман адресира този проблем, защото OpenAI подготвя собствена социална мрежа, но е малко вероятно тя да гарантира, че също няма да бъде населена от ботове с изкуствен интелект.
