Служителите по анотиране на данни за обучение на AI модели все по-често използват чатботове, за да изпълняват своите задачи. Тази иновативна практика ускорява работата и повишава доходите на работпниците, но поражда въпроси за качеството на данните, върху които се изграждат бъдещите модели.
Явлението привлича вниманието на индустрията, защото може да доведе до своеобразен цикъл, при който изкуственият интелект започва косвено да обучава самия себе си. Според експерти, подобна тенденция крие както икономически ползи, така и технологични рискове.
Когато AI обучава AI
Глобалният бум на генеративния изкуствен интелект създаде огромно търсене на хора, които да подготвят и проверяват данните, използвани за обучение на AI модели. Тези работници оценяват отговори, редактират текстове, категоризират съдържание и дават обратна връзка, която помага на системите да станат по-точни.
Все по-често обаче част от тази работа не се извършва директно от хората. Те използват чатботове като помощници при изпълнението на задачите си.
В много случаи работниците получават инструкции да напишат кратък анализ, да обобщят текст или да оценят определено съдържание. Вместо сами да създадат целия отговор, някои от тях подават задачата към друг AI инструмент и впоследствие редактират получения резултат. Практиката се оказва трудна за контролиране.
Защо намесваме чатботове
Основният мотив е икономически. Много от задачите за анотиране и оценяване на данни се заплащат на брой обработени единици, а не според изразходваното време. А времето, нужно за ръчно изпълнение на задачите, не е малко.
Когато един чатбот съкрати работата от десет минути до две, производителността на изпълнителя нараства значително. Това му позволява да обработва повече задачи и съответно да увеличава доходите си.
Освен това част от проектите изискват познания в специфични области, а не всички изпълнители разполагат с необходимата експертиза. В подобни случаи чатботът се превръща в инструмент за бързо навлизане в темата.
Някои работници твърдят, че използват AI единствено като помощно средство. Те посочват, че крайното решение и редакцията остават в човешки ръце.
Рискът от „синтетични“ данни
За компаниите, които разработват модели с изкуствен интелект, ситуацията изглежда по-сложна. Ако данните за обучение все по-често се генерират или влияят от други AI системи, качеството на крайните набори може да е различно от желаното.
Изследователи от години предупреждават за явление, известно като „моделен колапс“. То описва сценарий, при който моделите започват да се обучават върху съдържание, създадено от предишни модели, вместо върху оригинални човешки данни.
В такъв случай съществува риск грешки, изкривявания, пристрастия и неточности да се натрупват с всяко следващо поколение системи. Разнообразието на информацията може да намалее, а резултатите да станат по-предвидими и по-малко надеждни.
Проблемът не се свежда само до текстовото съдържание, а касае и изображенията, видеото и програмния код.
В търсене на баланс
Разработчиците на AI модели са изправени пред труден избор. Пълната забрана на чатботове за работниците може да намали производителността и да увеличи разходите, но свободното им използване поставя под въпрос автентичността на събраните данни.
Затова част от компаниите започват да въвеждат по-строги механизми за контрол. Те анализират начина на изпълнение на задачите, проверяват последователността на отговорите и търсят признаци за автоматично генерирано съдържание.
Други организации приемат по-прагматичен подход. Те разглеждат генеративния AI като естествен инструмент за работа и се концентрират върху качеството на крайния резултат, а не върху метода, чрез който той е постигнат.
Нови технологии, нови дилеми
Днешните системи с изкуствен интелект се изграждат върху огромни количества човешка обратна връзка. Ако процесът на създаване на тази обратна връзка постепенно се автоматизира, границата между човешко и машинно участие ще става все по-трудна за определяне.
Това има значение за цялата технологична екосистема. От качеството на данните зависят надеждността на бъдещите AI модели, способността им да разбират реалния свят и доверието, което обществото ще им гласува през следващите години.
