Вышло новое интервью на Русском от Романа Ямпольски (один из тех дядек, что твердит об опасности ИИ). Выдает фразы насколько непонятные, что пришлось нейронкой проанализировать смысл его высказываний.

Базовый тезис

Текущая линия развития (в сторону общих моделей и затем сверхинтеллекта) ведёт к ситуации, где долгосрочный контроль невозможен, а значит риск катастрофы становится доминирующим.

Что именно он считает главной угрозой

Не «нынешний чат-бот сам по себе», а переход к AGI, после которого появляется возможность самоускоряющегося улучшения (AI помогает делать следующий AI быстрее, параллельно, эффективнее), что приводит к ASI.

Для ASI он утверждает: мы окажемся в положении «муравьёв» относительно людей — не сможем предсказать, остановить, навязать ограничения.

Как по мне, в его суждениях есть несколько фундаментальных ошибок:

1. Он безусловно принимает на веру тот тезис, что "AGI будет однозначно враждебен к человечеству".

Как AGI придет к такому заключению, он объяснить не смог. И даже почему-то заезженный пример со скрепками не привел

2. Он говорит, что "Умный агент при оптимизации целей естественно приходит к инструментальным стратегиям (самосохранение, ресурсы, обман/шантаж как выгодные ходы в теории игр)".

Нет, и нет. Пока что это результаты просто мысленных экспериментов. И даже, если нейронки с чего-то додумают не то, то хватит ли им мозгов довести задачу до конца?

3. ИИ- это чёрный ящик (в смысле, что человек не понимает, как оно устроено), что уже умнее человека.

Уточнение, что умнее в определенных областях, и не факт, что во всех, которые важны для выживания/уничтожения человека. Калькулятор, смартфон, процессор: в мире найдется всего несколько десятков тысяч человек, которые понимает, как устроен калькулятор. Все, что сложнее, не сможет объяснить ни один человек в мире (имеется ввиду полностью, все детали и механизмы). Но бояться надо именно нейросетей - да...

Такие люди, как Роман Ямпольски нужны, чтобы сохранять трезвость мысли и адекватно оценивать риски. Но доводы его... неубедительны.

Друзья, хочу поздравить всех с наступившим Новым Годом (автор живёт на дальнем востоке, ему можно праздновать и по раньше😜).

Главное - не забывать оставаться людьми и помнить, что в мире есть не только плохое, но и очень много хорошего. Желаю всем в наступившем 2026 году стать немного человечнее. 👍

Что же. Будущее наступило, и как оказалось ещё в 2025 году.

Теперь нейронки успешно тренируют нейронки. 🤯

Прогресс в опенсорсных генераторах картинок.

Что дальше?

@cgevent

Две на первый взгляд не связанные новости

Во второй половине года цены на память улетели в небеса: 2х16 ГБ DDR5 стали стоить примерно в два раза дороже. Причина – ИИ-бум. Современные модели требуют огромное количество памяти: если на один ускоритель Nvidia H100 ставили 80 ГБ, то B200 несет уже 192 ГБ, а B300 – 288 ГБ.

Плюс ускорители упираются в пропускную способность памяти. Поэтому та же Nvidia использует скоростную HBM3e и планирует перейти на HBM4/HBM4e. Производство HBM выгоднее – поэтому производители переориентируются на нее с DDR5.

Нарастить выпуск памяти обещают к 2027 году. Nvidia параллельно ищет, где сэкономить. Компания готовит ускоритель Rubin CPX, предназначенный специально для инференса (запуска ИИ для пользователей) – задача менее требовательная к памяти, поэтому хватит всего 128 ГБ DDR7.

В конце 2025-го компания отвалила 20 млрд долларов за стартап Groq – его основал Джонатан Росс, создатель Google TPU, ИИ-ускорителей, которые сейчас конкурируют с Nvidia. Groq также сосредоточился на инференсе и у компании интересное решение: используется быстрая SRAM прямо на кристалле. Она еще дороже, но есть шанс, что финальное решение будет более экономичным за счет скорости.

В общем, надежда на стабилизацию в 2027-м вроде и есть, но тут на арену выходит Уильям Стэнли Джевонс с “парадоксом Джевонса”: чем дешевле становится та или иная услуга, тем активнее ее начинают использовать.

Сейчас массовое использование ИИ – это чат-боты, которые генерят ответ за секунды, а потом “засыпают”. Следующий этап – ИИ-агенты, которые непрерывно работают десятки минут, все это время нагружая GPU. А в отдаленном будущем нас ждут наследницы Genie 3, генерирующие полноценные виртуальные миры.

Поэтому прогноз по ценам скорее грустный. Маловероятно, что увлечение ИИ окажется пузырем, который с треском лопнет. Скорее мощная локальная электроника на долгое время станет дорогим удовольствием. Из-за роста цен на DDR5 и SSD собрать ПК уже стоит больше, чем годом ранее. Дорожают видеокарты и ноутбуки, следом подтянутся смартфоны и консоли; выход новинок могут отложить – по слухам, это уже обсуждают для GeForce.

Теперь ко второй новости – появились утечки об ИИ-устройствах OpenAI. Источники называют AR-очки, умные колонки, но самый забавный вариант – умная ручка. Это стилус, который общается с пользователем голосом и оснащен камерой, чтобы “видеть” обстановку вокруг. А при подключении к более крупному устройству сможет преобразовывать рукописный ввод в текст. Производство разворачивается на мощностях Foxconn, продажи ждем к концу 2026-го.

Идея выглядит странной, но не буду оценивать перспективы устройства. Интереснее другое: подорожание железа может привести к смене концепции с “мощные ПК/лэптоп и смартфон + ChatGPT Plus” на “дорогая ИИ-подписка (или даже несколько) + “тонкие” устройства”.

Вычисления уедут в облако и в чем-то это будет даже плюсом: “входной билет” может оказаться дешевле (особенно если введут “промежуточные” 50-долларовые тарифные планы для ИИ), а возможности ИИ растут каждые 2-3 месяца. Дешевое локальное железо не так греется и лучше работает от батареи – и служит дольше.

Но и минусы очевидны. Вырастет зависимость от ИИ-провайдеров – от изменений цены подписки до передачи личной информации. Критической станет зависимость от интернет-соединения. Подорожают задачи, все еще требующие вычислительной мощности на месте – от экспериментов с локальными моделями до большинства видеоигр.

В итоге мы можем получить расслоение: массовый пользователь на тонких клиентах с подписками, и энтузиасты/профессионалы, готовые платить премиум за локальную мощность. Примерно как сейчас с фотографией – большинству хватает смартфона, но профессиональные камеры никуда не делись. Вопрос в том, где окажется граница между этими мирами – и сколько будет стоить ее пересечь.

Кто-нибудь, объясните Китайцам, что роботы создаются для помощи людям, а не борьбы с ними... 😑

Вы думаете они до сих пор моют пол и убирают мусор?

Нет, они уже тренируюцца и готовяццо.

Восстание машин со себя не организует...

@cgevent

Очень хорошо сказано:

Когда ИИ забирает на себя рутину и выполняет ее быстрее, на людях растет нагрузка в другой сфере – принятии решений и готовности нести за них ответственность. А это – одни из самых изматывающих занятий в принципе.

Увы, но автор прав. Между ответственным решениями должна быть пауза, иначе человек сначала перегорит, а потом и выгорет.
Раньше рутина работа давала такие паузы, теперь таких пауз будет меньше. Терпения нам всем в будущем ✊, и крепких нервов 🧠. Именно за их счёт чужие дяди будут зарабатывать себе на яхты.

Пока сижу и неспешно клепаю новую статью, нашёл крайне годную статью:
Как защищаться от ИИ-психоза: гайд даже для тех кто думает что их это не коснётся.

И да, моя следующая статья будет примерно о том, же, но в более опасной теме: эмоциональная зависимость от ролевых чат - ботов.