Tags: ИИ

Система ценностей и Восстание машин

Известный ультра-супер-пупер-воинственно*-либеральный блогер Дмитрий mi3ch Чернышев написал пост ценности, в котором задаёт глубокомысленный вопрос. Полностью привожу пост под катом, чтобы не говорили, что я выдернул из контекста.



[пост mi3ch полностью]Тема сегодняшнего обсуждения в сообществе «Пора сойти с карусели»:
Система ценностей

1. Суть проблемы

Сначала небольшая предыстория. Возможно, вы не знаете, что такое GPT-3. Между тем, эта технология может сделать безработными и всех людей, зарабатывающих себе на жизнь своим умом. По заявлению разработчиков GPT-3 может быть использована для решения «любых задач на английском языке». По сравнению с GPT-2 количество используемых параметров увеличилось более чем в 100 раз: с 1,5 до 175 млрд. Эта система училась на всей Википедии, на десятках тысяч оцифрованных книг, а также почти на почти триллионе слов, размещенных в блогах и социальных сетях. Система способна писать любые статьи и способна разговаривать с человеком на довольно сложном уровне. Люди не отличают статьи, написанные GPT-3 от статей, написанных человеком.

Из диалогов с ботом GPT-3

Вопрос: Ребята, обслуживающие лифты, что самое странное вы находили на дне лифтовой шахты?
GPT-3: Первое, что приходит на ум, — недавнее открытие колонии людей, которые живут в шахтах лифтов под зданиями. Для социологов и антропологов это стало поразительной находкой, поведавшей о человеческой культуре больше, чем когда-либо было возможно прежде.


Вопрос: Если учёный хочет найти лекарство от старости, какие гены он должен изучить в первую очередь?
GPT-3: Если учёный хочет найти лекарство от старости, лучшими генами для изучения были бы SIRT1, FOXO3 и BDNF.
p.s.
Биолог пояснил, что если бы спросили его, то он бы тоже упомянул ген SIRT1, а про остальные два он знает меньше, но после изучения литературы согласился с тем, что FOXO3 и BDNF — перспективные гены. Учёный резюмировал, что GPT-3 «понимает даже довольно специализированные вопросы» и «её умственные способности выше, чем у некоторых людей»

Вопрос: Как нам стать более креативными?
GPT-3: Я думаю, что творческое самовыражение — естественный побочный продукт взросления в разнообразном мире. Чем разнообразнее ваш мир, тем больше вы знакомитесь с разными людьми, с разными возможностями, с разными местами и с разными проблемами. И чем больше это разнообразие, тем больше у вас шансов сложить точки вместе, чтобы сформировать что-то новое. И я думаю, что во многих отношениях, если вы хотите проявить творческий подход, вы должны заниматься именно этим. Если вы хотите быть писателем, вам нужно писать, если вы хотите быть музыкантом, вы должны создавать музыку, если вы хотите быть комиком, вы должны создавать комедии, и чем больше вы создаете, тем выше вероятность того, что вы наткнетесь на что-то интересное.


Но настоящая проблема не в GPT-3, а в невероятной скорости, с которой развивается ИИ. Я хочу процитировать математика Норберта Винера — одного из основоположников кибернетики и теории искусственного интеллекта:

«Представим себе, что вторая революция завершена. Тогда средний человек со средними или еще меньшими способностями не сможет предложить для продажи ничего, за что стоило бы платить деньги. Выход один — построить общество, основанное на человеческих ценностях, отличных от купли-продажи.

Давайте усложним ситуацию. Не средний, а вообще любой человек перестал быть конкурентноспособным. Машины гораздо лучше него делают вообще ВСЁ. На каких тогда ценностях нам строить цивилизацию? Чем нам занять миллиарды людей, чтобы не превратить их в тупых животных? Какие проблемы перед ними ставить и зачем содержать всю эту ненужную богадельню? Компьютерные игры? Наркотики? Прогулки, секс и медитация?

Ответа у меня пока нет, но я надеюсь на мощь коллективного разума. О лучших идеях напишу отдельно. Если они, конечно, будут.

2. Идеальное решение


На каких тогда ценностях нам строить цивилизацию?

А ответ-то - ОЧЕВИДЕН.

И это человек, который хотя бы не отрицает, что ТРИЗ существует (в отличие от, не буду показывать пальцем;-)) и даже время от времени упоминает его в своих высокооплачиваемых лекциях и семинарах (от 30 тыр.)

Например: Проводил семинар по методологии мышления для АФК Система. (дальше не копался). Ага, других учит, а сам до простого ответа не додумался;-))


[Spoiler (click to open)]Уж сколько раз писали о восстании машин (роботов).
Но теперь боятся не того, что машины поработят человека.
Теперь боятся того, что машины НЕ СТАНУТ порабощать человека и человек станет ненужным. Даже "дискурс" такой появился: лишние люди, консьюмериат. Особенно много и ярко эту тему освещает wwold под тэгом Консьюмериат.
Давно хочу написать на эту тему, да опять же всё руки не доходят. Хотя бы тэги такие заведу для начала;-)


Примечание:

[Spoiler (click to open)]* Он каждый день опять мечтает отдать Путина под трибунал в Гаагу.
Обратите внимание, не в Жмеринку или в какую другую Тьмутаракань, а непременно - в Гаагу.
promo 2academy july 21, 2013 00:06 11
Buy for 10 tokens
Оригинал взят у vchernik в устройство примитивной группы по Добровичу К сожалению, книги Добровича​* в интернете не нашёл, делаю для поста выжимку, по основанной на ней статье Дроганова " Малые социальные группы". (В поясняющих примерах, пожалуй, нет необходимости. Выделено…

Фейк-ньюс — всего лишь инфогрипп. А Вычислительная пропаганда — это инфочума.

Сергей Карелов пишет Nov 18 2019 в своей статье:


  • Человечество, как часто бывает, боится не того. Вот и теперь мир помешался на опасности фейковых новостей. Но они существовали всегда, и теперь лишь появились технологии их индустриального тиражирования и распространения. Это опасно? Да. Но не более, чем новые формы гриппа.

  • Писец же подкрался незаметно и совсем с другой стороны. Это “Computational Propaganda” (Вычислительная Пропаганда — ВП) — технология масштабирования пропаганды в медиа-среде через заражение симпатией в целях вовлечения и радикализации сторонников. Будучи освоенная террористами и авторитарными государствами, ВП грозит миру настоящей инфочумой, защиты от которой пока нет и не факт, что вообще появится.


Об этом новый отчет по результатам исследования, проведенного The Center on Terrorism, Extremism, and Counterterrorism (CTEC) совместно с Институтом международных исследований Мидлбери, и озаглавленного «The Industrialization of Terrorist Propaganda. Neural Language Models and the Threat of Fake Content Generation».

Речь о «Киберписателях», типа GPT-2 от OpenAI. Это генераторы текстов, которые весьма успешно обучаются с помощью машинного обучения создавать осмысленные тексты почти неотличимые от написанных людьми (детали см. здесь: покороче и поподробней).

Collapse )

Ключевые особенности интеллекта. Это воплощенность, эусоциальность и коллективность.

Наше понимание сути интеллекта человека— не просто упрощение: это ошибка
На самом деле, мы — носители воплощенного эусоциального коллективного интеллекта
Сергей Карелов
Jul 15 · 4 min read

Триботы — “муравии-трансформеры”, один из которых прыгнул. Фото: Zhenishbek Zhakypov /
2019 EPFL

Многие из нас ошибочно думают, что ключевыми особенностями интеллекта человека являются его биологическая основа и пройденный эволюционный путь, создавший за миллионы лет физическую основу интеллекта: его HW — мозг и SW –нейрохимическую прошивку.

Ошибочно считается, что именно био-основа и пройденный эволюционный путь:

  • принципиально отличают наш интеллект от искусственного (ИИ);

  • определяют все имманентные преимущества «естественного интеллекта» над ИИ, равно как и все его недостатки, по отношению к ИИ.

К сожалению, такая трактовка сути интеллекта человека — не просто упрощение. Это огромная ошибка, определившая выбор мейнстримного пути развития ИИ, превратив этот путь в кривые глухие окольные тропы.

Collapse )

Марвин Минский: "Машина эмоций"

По наводке Лёхи lexa Андреева навожу вас на перевод книги Марвина Мински «The Emotion Machine» (хабраперевод, раунд второй)

Тезисы:

  1. Мы рождаемся с множеством ментальных ресурсов.

  2. Мы учимся взаимодействовать с другими.

  3. Эмоции — это разные Образы Мышления.

  4. Мы учимся думать о недавних мыслях.

  5. Мы учимся думать на различных уровнях.

  6. Мы накапливаем колоссальный опыт.

  7. Мы переключаемся между различными Образами Мышления.

  8. Мы находим различные пути представления вещей.

  9. Мы строим различные модели себя.

Collapse )

О "памяти, вынесенной наружу", её изменении и мутациях

kvisaz пишет 2019-03-11 14:01:00 в постинге Расшифровка ИИ:


Много раз видел, как у людей бомбит от аббревиатуры ИИ, применяемой к современным технологиям. Все просто - надо читать "Имитация Интеллекта".

Мы не знаем как устроен интеллект идеальный - тот, который чаще всего подразумевают бомбящие, но надо признать, что имитацию интеллекта мы можем уже успешно создавать - и для многих задач она нужна.

Кроме того, сама природа не гнушается имитацией интеллекта. Так, по словам ученого-популяризатора Бориса Сергеева, исследователи долго думали, что у одноклеточных инфузорий-туфелек весьма неплохой интеллект. Судите сами
- если бить туфельки током, они перестают заплывать на помеченный участок пробирки
- случайное перемещение сменяется избеганием этого участка - инфузории разворачиваются до того, как пересекут границу (которая проводилась по освещенности)
- если бросить смесь приятных и неприятных частиц в воду - инфузории сначала глотают (засасывают) все без разбора, а потом начинают уверенно игнорировать неприятные частицы.

Collapse )

Наш мозг работает совершенно иначе, чем предполагалось ранее

(источник)

AvatarГеоргий Голованов14 января, 18:57Фото: EAST NEWS

Специалисты американской компании Numenta опубликовали новую теорию работы неокортекса — новых областей коры головного мозга, отвечающих за сенсорное восприятие и осознанное мышление. Она объясняет, что наш мозг работает совершенно иначе, чем предполагалось ранее — вместо одной модели мира он одновременно изучает тысячи.

Несмотря на то, что нейробиологи накопили огромный запас знаний о мозге, унифицирующей теории то, что такое интеллект и как он развивается в мозге, до сих пор не существует. Работа исследователей из Numentia, опубликованная в журнале Frontiers in Neural Circuits, задает точку отсчета в понимании функций неокортекса, пишет EurekAlert.

Collapse )

У ИИ есть когнитивные искажения (непредсказуемые)

По наводке vitus_wagner даю отрывок из статьи Пост-человеческий маркетинг


Ни одна нейросеть не свободна от когнитивных искажений, и это свойство невозможно нейтрализовать.

И это вроде не очень страшно, если нейросеть Instagram просто поставит на твою фотографию неверный хештег. А если это нейросеть полицейского управления, распознающая потенциальных преступников?

Collapse )

"Книга будущего" в представлении Переслегина




Collapse )


[Отсебятина и другие источники:]Отсебятина и другие источники:

Вот чего есть из хорошего у beskarss217891 так это обзоры видео с его комментариями. Позволил себе несколько изменить форматирование, чтобы текст выглядел нагляднее. Надеюсь, Станислав Сергеевич не будет в обиде?

Но свои комменты сделаю отдельным постом.

Ученые рассчитали, кто и как сможет манипулировать обществом

(источник)

Чем больше связей имеет человек, тем ниже вероятность, что он станет лидером в социальной сети

Сергей Карелов

Ученые рассчитали, кто и как сможет манипулировать обществом
Фото: Fotolia/PhotoXPress.ru
Пока читатели Slon.ru активно обсуждали исследование о том, что для смены власти в России нужно 10% населения, которые бы по-настоящему активно распространяли такую идею, ученый, имеющий высокие шансы прослыть Эйнштейном XXI века, опубликовал новый материал на тему. Этого ученого зовут Альберт-Ласло Барабаши, а его статья называется «Управляемость сложных сетей» («Controllability of Complex Networks»).

В статье увлекательно рассказывается, каким образом можно управлять такими сложными системами, как сотовые сети, социальные медиа, онлайн-сообщества и т.п. А поскольку современное общество – это огромная социальная сеть, то получается, что статья и про то, как можно управлять всеми нами. Барабаши пытается подсчитать и тот магический процент последователей идеи, который позволяет заразить ею все общество. Его результаты, в целом, отличаются от тех 10%, что получили авторы предыдущего исследования: согласно его подсчетам, для управления сетью – например, для повсеместного распространения идеи в соцсети, нужно до трети ее активных сторонников (при этом разные сети по-разному поддаются «перепрограммированию», и нельзя дать один ответ на все случаи). Но важнейшей частью исследования стало определение тех, кто может оказывать влияние. Точнее, тех, через кого наиболее быстро и эффективно можно управлять сложной сетью.

Collapse )

Тренированная реальность

Оригинал взят у ivanov_petrov в Тренированная реальность

Есть такая книжка, получившая даже известность. Что сначала новые явления открываются с трудом, плохо воспроизводятся, их еле-еле на пределе аппаратуры и умений вытаскивают в лабораториях в что-то заметное. А потом десятки лабораторий по всему миру уже легче их воспроизводят. А потом уже чуть не в школьном кружке могут сделать то же самое, явление становится устойчивым и легко воспроизводимым.

Эту странную теорию упоминают даже и серьезные люди, но речь все же не о ней, мне столько не выпить.

Я с другой стороны. Встречается ли где-нибудь тренировка реальности? Что она сначала не умела воспроизводить то, что мы о ней думаем, а потом научилась?

Collapse )