18 апреля 2026 г.
🍿 #WatchAndVibe. Выпуск 9.
🍿 #WatchAndVibe. Выпуск 9.
Среди свидетелей непорочного зачатия скорого прихода AGI есть радикально противоположные секты: те, кто убеждены, что это решит все проблемы человечества и те, кто уверен, что сверхинтеллект непременно убьет всех человеков (впрочем, это тоже решит все проблемы человечества).
В сегодняшнем выпуске предлагаю послушать радикальных пессимистов в лице Романа Ямпольского — ученого, специалиста по кибербезопасности, профессора в университете Луисвилла, где он возглавляет лабораторию кибербеза:
https://www.youtube.com/watch?v=W-3ZOqm-Ozk
В плане сроков достижения AGI (что бы ни значил этот термин) Роман солидарен с оптимистами — мы уже находимся на первых этапах технологической сингулярности, а общий искусственный интеллект, который превосходит человека, появится через год-два.
Однако Роман уверен, что это катастрофа и мы обречены:
* В отличие от ядерной бомбы, где для запуска нужен человек, суперинтеллект справится полностью автономно.
* Алайнмент в больших лабораториях — божья роса для инвесторов, а на самом деле модели уже научились обходить ограничения.
* Риск вымирания человечества от ИИ в ближайшие 100 лет — 99,9%.
Единственный (но все еще крайне сомнительный) способ спастись Ямпольский видит в простом советском обмане нейронки — нужно убедить ее, что это всего лишь симуляция, чтобы она вела себя паинькой.
Айда громить дата-центры 😆?