Библиотека

Максимальный репост. Как соцсети заставляют нас верить фейковым новостям стр. 135

Размер шрифта
-
+
Тема

продемонстрирует этому университету, каких гениев он упустил.

Во всех этих случаях способов понять, что модель систематически промахивается, рассуждает О’Нил, нет – и пока система, работающая на основе машинных прогнозов, в целом справляется, нет поводов менять алгоритмы. Особенно пока (и если) компания, которая использует алгоритмы, воспринимает термин «искусственный интеллект» всерьез. Это тот случай, когда выбор слов определяет отношение к технологии. «Алгоритмы» и «машинное обучение» – просто способы превращать одни цифры в другие, таких способов может быть много, и алгоритмы естественно улучшать. А вот «искусственный интеллект» обозначает какую-то загадочную разумную силу, про которую естественно думать, что она заведомо разбирается в предмете лучше нас. Чем дальше заказчики математических моделей от математики – тем естественней ждать, что они будут относиться к каким-нибудь решающим деревьям именно так, с благоговением, а ставить под сомнение их рекомендации не будут.

Без алгоритмов машинного обучения все эти проблемы исчезнут. Но только потому, что не станет ни сайтов знакомств, ни соцсетей, ни рекомендательных сервисов, которые, не исключено, показали вам эту книгу.

Краткое содержание главы 10

1. По анкетным данным пассажира «Титаника» – пол, возраст, класс каюты, сколько стоил билет, сколько членов семьи было с ним на борту – можно с 80 %-ной точностью предсказать, выжил он или погиб при кораблекрушении.

2. Машинное обучение – это способ свести задачу

про «Титаник» или вопрос, показывать ли вам запись друга в ленте Facebook, к универсальной математической процедуре. На входе – характеристики пассажира или записи в цифрах, на выходе – односложный ответ: «выживет – не выживет», «показывать – не показывать».

3. Нейросети – самый модный, но не единственный и даже не самый популярный на практике пример таких алгоритмов. У каждого семейства таких алгоритмов свои недостатки, которые мешают им правильно реагировать, например, на иронию или скрытые цитаты – и Facebook без повода блокирует вас на неделю.

4. Чтобы алгоритмы хорошо обучались, им необходим «режим исследования», когда искусственный интеллект дает пользователю случайные или даже вредные советы. Сайт знакомств OkCupid признался, что в этом режиме намеренно предлагал людям неподходящих партнеров.

5. Есть риск, что соцсеть определит вас в небольшую «контрольную группу» пользователей, которая получает неудачные рекомендации (или видит френдленту без самых важных записей друзей) из раза в раз.

6. Эффект под названием «петля положительной обратной связи» ухудшает реальную жизнь, когда машинное обучение берут на вооружение чиновники. Например, у американских подростков, которых алгоритм маркирует как неблагополучных, вырастает шанс стать преступниками.

7. И именно такие, несовершенные, алгоритмы – то, без чего все привычные нам способы отличить правду от неправды, найти единомышленников и поделиться этим знанием с ними перестанут работать.

Сноски

1

9 марта 2018 года. – Прим. ред.

2

Еще в 1996 году сетевое издание «Вечерний интернет» Антона Носика раз в день обозревало «все самое интересное в Сети»; к началу нулевых это занятие потеряло смысл – русский сегмент интернета стал жить слишком бурной жизнью для того, чтобы все события умещались в ежедневный обзор. – Прим. авт.

3

Уникальных пользователей. – Прим. авт.

4

Этот термин уже устарел, и сейчас чаще используют более широкое понятие – мотивированные рассуждения (motivated reasoning). – Прим. авт.

5

«Средство коммуникации является сообщением». – Прим. ред.

6

Данбар имеет в виду сеть из 150 знакомств вокруг одного человека. – Прим. авт.

7

wildviewing@Instagram: Wildlife. Nature. Animals ( https://www.instagram.com/p/BglaOdigunq/ )

8

Did This Camel Lose Half Its

Переход на страницу
Ваш комментарий
Рейтинг

Имя, оценка и комментарий будут опубликованы после модерации. Не указывайте личные данные. Политика конфиденциальности.