vchernik (vchernik) wrote in 2academy,
vchernik
vchernik
2academy

Category:

У ИИ есть когнитивные искажения (непредсказуемые)

По наводке vitus_wagner даю отрывок из статьи Пост-человеческий маркетинг


Ни одна нейросеть не свободна от когнитивных искажений, и это свойство невозможно нейтрализовать.

И это вроде не очень страшно, если нейросеть Instagram просто поставит на твою фотографию неверный хештег. А если это нейросеть полицейского управления, распознающая потенциальных преступников?

Не говоря уже о том, что если у любой нейросети есть когнитивное искажение, его можно найти и хакнуть. Например, остановить или сбить с дороги беспилотный автомобиль, показав ему специально подготовленный и распечатанный стикер.

Безусловно, нейросети могут быть статистически более точными, менее искажёнными и предвзятыми, чем люди. Но люди хотя бы предсказуемо предвзяты.

Нейросети настолько разнообразны внутри, что имеют абсолютно непредсказуемые когнитивные искажения.

Поэтому к какой именно когорте или аудитории отнесёт ваш цифровой профиль фейсбучная нейросетка, невозможно ни предсказать, ни проконтролировать заранее.

Инженеры Facebook деланы совсем не пальцем. На конференции для разработчиков F8 прозвучало, что они работают над AI Ethics. Они обучают специальную отдельную нейросеть, которая учится определять метрики когнитивных искажений других нейросетей и нейтрализовывать их (Fairness Flow + FBLearner Flow). Но и тут не всё слава богу. Сам этот движок имеет свои собственные когнитивные искажения, как мы выяснили ранее. И, нейтрализуя одни искажения, он по сути создаёт другие, уже непредсказуемые для человека.

Tags: ИИ, когнитивные искажения, нейросети
Subscribe

promo 2academy июль 21, 2013 00:06 11
Buy for 10 tokens
Оригинал взят у vchernik в устройство примитивной группы по Добровичу К сожалению, книги Добровича​* в интернете не нашёл, делаю для поста выжимку, по основанной на ней статье Дроганова " Малые социальные группы". (В поясняющих примерах, пожалуй, нет необходимости. Выделено…
  • Post a new comment

    Error

    Comments allowed for members only

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 3 comments