Участники панели ВЭФ: "Убийственное применение" блокчейна может заключаться в отслеживании предвзятости данных моделей ИИ

Галлюцинации искусственного интеллекта

Некоторые бизнес-исполнительные директора, принимающие участие в Всемирном экономическом форуме (WEF) в Давосе, утверждают, что использование блокчейна для искоренения предвзятости или дезинформации в данных, используемых для обучения моделей искусственного интеллекта (AI), может стать “убийственным примером” применения технологии.

Согласно отчету CNBC, в настоящее время предпочтение отдаётся блокчейну, так как он позволяет разработчикам AI отслеживать данные, на которых обучаются их соответствующие модели. Компания Casper Labs, специализирующаяся на блокчейне, и многонациональная технологическая корпорация IBM объединились для создания такой системы отслеживания данных AI.

Призыв исполнительных директоров к созданию блокчейн-базированной системы отслеживания появляется в то время, когда растёт беспокойство по поводу потенциального использования моделей AI для распространения ложных или предвзятых данных. Одно исследование предполагает, что когда модель искусственного интеллекта производит смещённый взгляд на определённую тему, пользователи будут продолжать это воспроизводить даже за пределами их взаимодействия с моделью искусственного интеллекта.

Однако Медха Парликар, технический директор и сооснователь Casper Labs, выступившая на панельной дискуссии ВЭФ, предположила, что решение её компании уже показывает свою полезность в борьбе с проблемой предвзятости AI.

“И таким образом, когда вы используете AI, и если он учится и начинает галлюцинировать, вы действительно можете откатить AI назад. И таким образом, вы можете отменить некоторое обучение и вернуться к предыдущей версии AI”, – сказала Парликар.

Шейла Уоррен, генеральный директор Совета по инновациям в области криптовалют, утверждает, что решение для отслеживания AI может стать самым значимым применением блокчейна и таким, которое подтверждает призывы к его более широкому внедрению. Она добавила:

“Я действительно думаю, что верификация AI и своего рода контрольные меры … в системе AI, будут основаны на блокчейне и подкреплены блокчейном.”

Согласны ли вы, что отслеживание данных AI может стать “убийственным примером” использования блокчейна? Поделитесь своим мнением в разделе комментариев ниже.