Ново изследване експериментира с реалистични начини за интегриране на мъдростта в изкуствения интелект с цел създаване на AI системи, които да бъдат по-стабилни, прозрачни, кооперативни и безопасни.
Учени от Университета на Ватерло предлагат начини за обучение на големи езикови модели, така че да станат по-мъдри. Те изследват нови архитектури, които биха могли да поддържат мъдро „разсъждение“ в алгоритмите, и предлагат критерии за измерване на мъдростта на изкуствения интелект.
Времето за работа е от решаващо значение, защото с напредването на възможностите на изкуствения интелект, мъдростта изостава от технологичния напредък. Това поражда опасения за безопасността и надеждността.
„Изкуственият интелект става все по-умен всеки ден, но едно важно човешко умение, което му липсва, е мъдростта“, казва д-р Сам Джонсън, професор по психология във Ватерло и съавтор на изследването.
„Мъдростта не е просто знание или интелигентност. Става въпрос за умствените умения, необходими за справяне с житейските предизвикателства, като например вземане на трудни решения или справяне с непредсказуеми социални ситуации“, пояснява д-р Джонсън.
Докато настоящите системи с изкуствен интелект се справят отлично с добре дефинирани задачи, те се затрудняват, когато проблемите са объркани или неясни, защото им липсва пълният набор от стратегии, които хората използват за справяне с несигурността.
Причината, според изследователите, е, че сегашните системи с изкуствен интелект нямат пълния набор от инструменти, които хората използват за справяне с несигурността.
Новият подход се фокусира върху това да научи изкуствения интелект да мисли за собственото си мислене или метапознание – да разпознава границите на знанията си, да се адаптира към различни контексти, да претегля множество гледни точки и да остане гъвкав по отношение на това как биха могли да се развият ситуациите.
„Мъдростта изглежда твърде философска, твърде човекоцентрична, за да се формализира за машини“, казва д-р Игор Гросман, професор по психология във Ватерло и втори ръководител на изследването.
„Но като я разделим на специфични стратегии като интелектуално смирение, търсене на перспектива и адаптиране към контекста, можем да създадем конкретна пътна карта за изграждане на изкуствен интелект, който не само изчислява, но и разсъждава мъдро“, допълва д-р Гросман.
Изследователите предполагат, че интелигентните системи с изкуствен интелект биха могли да се справят с нови проблеми и среди, да работят по-съвместно в преследването на споделени цели, да бъдат по-лесно обясними за потребителите и по-безопасни, като по-добре съгласуват целите си с хората.
„Ако най-умният човек на света беше малко дете, пак нямаше да му даваме ядрените кодове“, казва Джонсън. „AI все повече прилича на детски гений, все още нуждаещ се от здравословна доза мъдрост от своите човешки родители“.
Разработката е дело на голям международен екип с участието на експерти по психология, компютърни науки и инженерство от Университета на Ватерло, Университета в Монреал, Институтите Макс Планк, Института Санта Фе, Станфордския университет, Университета на Уоруик и Google DeepMind.
Следващите стъпки на екипа включват сътрудничество с индустрията за разработване на изчислителни модели на човешка мъдрост, които да насочват дизайна на AI.
