Недочитанное: не хуже, чем у Джонсонов, угрозы ИИ

Crazy Rich: Power, Scandal, and Tragedy Inside the Johnson & Johnson Dynasty

Два брата из семьи бедного пенсильванского фермера Джонсона основали бизнес по продаже аптечных средств, в первую очередь, стерильных перевязочных пакетов, чем во времена корпии спасли немало человеческих жизней, и сказочно разбогатели. Дальше их многочисленные потомки богатели и богатели, попутно демонстрируя принцип “богатые тоже плачут”. Джонсоны – это отражение Кеннеди в зеркале американской семьи. Такая же безумно богатая и неудачливая семья.

Забросила, когда поняла, что путаюсь в многочисленных Джонсонах. Материал очень интересный, но написано, как колонка сплетен.

Our Final Invention: Artificial Intelligence and the End of the Human Era

Краткое содержание: по всей видимости, создание искусственного интеллекта, превосходящего человеческий, неизбежно в ближайшие десять лет, и тогда нам всем крышка. Потому что для ИИ мы – помеха в деле превращения всего в единую вычислительную сеть.

Узнала об AI-box эксперименте, в котором один участник выступает в роли суперпровдинутого искина, запертого вне интернета и любых других сетей, второй – в роли человека, который может подключить компьютер искина к сети, но не хочет. Задача первого игрока состоит в том, чтобы за два часа убедить второго освободить его из изоляции.

Типичная журналистская книжка про ИТ со всеми ее недостатками. Главным образом, беззастенчивым повторением одного тезиса. У людей был недо-ИИ, они его любили, он вырастет до истиного ИИ и всех убьет, убьет-схоронит, на камне напишет, у людей был недо-ИИ, они его любили… Сочинено, кстати, в 2013 году, не под свежего Терминатора.

К этой книжке примыкает другая недочитанная работа:

The Glass Cage: Automation and Us

Удобства автоматизации процессов иногда оборачиваются против нас, – говорит нам автор. Врачи, которые пользуются специализированными CRM c встроенными рекомендациями, меньше обращают внимания на пациентов и склонны копипастить назначения, а то и следовать очевидно ошибочным предложениям. Известны случаи, когда врачи не перепроверяли данные системы и убивали пациентов. Инуиты из-за массового внедрения GPS навигаторов теряют древнее искусство ориентироваться в бесконечных снежных просторах. Водитель в Испании, руководствуясь уверенным женским голосом из навигатора, направил машину прямо в водохранилище. Скучища.

  • Wanderer

    Недавно услышала в подскасте, что современных пилотов называют children of the magenta (по цвету линий на экране автопилота). Про автоматизацию без какой-то большой идеи сложно написать книгу, чтобы не было занудно, в подкастах и статьях как-то проще. Например, отличная статья про ошибку в дозировке https://medium.com/backchannel/how-technology-led-a-hospital-to-give-a-patient-38-times-his-dosage-ded7b3688558

    • http://www.gov-gov.ru Екатерина Аксенова

      Название книжки – The Glass Gage – как раз из жаргона пилотов. Автоматизация превратила кабину пилотов в стеклянную клетку.

      Да, очень здорово видно, что набор хороших анекдотов не делает еще книгу. И набор анекдотов с простой мыслью “автоматизация не так хороша, как кажется” тоже. Мне всегда интересно, как устроен захватывающий нон-фикшн, что отделяет хорошие книжки (скажем, “Быть смертным” Гаванде) от скучных сборников неплохих историй. Авторы увлекательных книг иногда используют совсем простой прием – рассказывают личную историю через всю книгу, и это работает.

  • Ирина Ющенко

    К последнему пункту как раз вот обсуждали с мужем, что появление людей и средств, профессионально облегчающих жизнь людям, снижает способность и стремление этих самых людей к самостоятельному решению проблем и задач разного калибра. “Пандем” как крайний случай. Муж, в частности, как раз и рассказал, что серьезные компании поэтому ограничивают использование автопилотов, очень строго его регламентируя и стараясь избегать, где только можно. По-моему, в этой системе не хватает третьего звена – 1) помогающий, 2) получатель помощи, 3) некто или нечто, побуждающее получателя направлять высвободившиеся ресурсы на решение каких-то иных задач и проблем, которые не может решить никто из помогающих. Без третьего элемента действительно получается черт-те что.

    • http://www.gov-gov.ru Екатерина Аксенова

      Я и статью недавно читала: пилотов стимулируют меньше летать на автопилоте, хотя еще недавно считалось, что наоборот, безопасней, когда человек поменьше участвует в управлении самолетом.

      Но машины без водителя уже нашли наши улицы.