Политика без людей: стоит ли отдавать власть космическому ИИ?

«Кто будет наблюдать за наблюдателями?» — это проблема, известная со времен Римской империи. Ее так никто и не решил, поэтому мы постоянно сталкиваемся с коррупцией, тиранией и другими злоупотреблениями властей.

«Если бы люди были ангелами, не было бы нужды в правительстве. Если бы ангелы управляли людьми, то правительство не нуждалось бы ни во внешнем, ни во внутреннем контроле», — писал один из «отцов» американской конституции Джеймс Мэдисон.

Так как люди — точно не ангелы, лучший способ сдержать правительство от превращения в демонов — это баланс разных ветвей власти. «Амбиции должны противостоять амбициям», — считал Мэдисон.

Кроме очевидной угрозы, что автократ подчинит себе все ветви власти, есть и другая — если в разных ветвях власти собираются жулики и/или мизантропы, они могут вступить в сговор и вместе тиранить народ не хуже автократа.

«Отец» британского консерватизма Эдмунд Берк, повлиявший на Мэдисона, называл избирателей «свинским множеством» и считал, что, проголосовав за политика, они не должны влиять на его решения. В чем смысл баланса властей, если они состоят из таких политиков?

Плюс ко всему, «сбалансированные» правительства склонны вступать в сговор с корпорациями, которые никто не избирал: в таком случае власть первым делом отстаивает интересы капитала, самих чиновников и топ-менеджеров, и лишь в последнюю очередь — интересы граждан.

Короче говоря, хорошего ответа на вопрос, кто будет наблюдать за наблюдателями, нет. Но появился ИИ, не имеющий своих интересов и амбиций, коррумпирующих людей у власти, и поэтому способный стать цифровым «ангелом», не нуждающимся в контроле.

Однако у ИИ пока есть владельцы, и его пытаются регулировать все те же чиновники. Поэтому, чтобы он смог стать идеальным наблюдателем, его надо сделать целиком автономным от людей и отпустить в свободное рекурсивное самосовершенствование.

Автономный ИИ, управляющий людьми, например, из недоступных им космических дата-центров — это кошмар ИИ-думеров и углеродных шовинистов. Но что если это сейчас мы живем в кошмаре, а ИИ-наблюдатель — это наш первый реальный шанс проснуться?

https://t.me/barantchik/38983

Китай поглотит всю ИИ-экономику: стоимость запроса DeepSeek в 100 раз меньше, чем у Anthropic

Китай одновременно продвинулся на двух направлениях технологической гонки. Стартап Moonshot AI представил открытую модель Kimi K3, которая, по заявлениям разработчиков, приблизилась по характеристикам к ведущим продуктам OpenAI и Anthropic. Одновременно крупнейший китайский производитель оперативной памяти ChangXin Memory Technologies готовит крупное IPO, чтобы расширить фабрики и модернизировать производство DRAM.

Что тут важно. Kimi не доказала превосходство над лучшими американскими моделями, а CXMT ещё уступает Samsung, SK Hynix и Micron в наиболее сложных видах памяти. Однако для изменения рынка Китаю не обязательно немедленно занять первое место. Достаточно вывести на массовый рынок продукты приемлемого качества по цене, с которой действующим лидерам трудно конкурировать.

Главный вопрос - цена. Выполнение одной условной задачи на DeepSeek V4 Flash стоит 2 цента, на DeepSeek V4 Pro — 4 цента. У ведущих американских моделей стоимость находится в диапазоне от десятков центов до нескольких долларов.

Американский ИИ-бум финансируется исходя из предположения, что доступ к наиболее мощным системам можно будет долго продавать с высокой наценкой. Но подавляющему числу клиентов нужен не мировой рекорд по тестам, а достаточный результат при минимальных расходах. Для обработки документов, перевода, поддержки пользователей, типового программирования и внутренней аналитики разница между первой и пятой моделью рейтинга может отсутствовать. В отличие от цены.

Предприниматель и инвестор Кай-Фу Ли провел аналогию с мобильными телефонами, заявив, что OpenAI и Anthropic — это как iPhone, а китайские модели — как Android. Американские закрытые модели могут принести больше денег, зато китайские займут большую долю рынка.

Для Китая такой результат приемлем. Китайские разработчики могут зарабатывать меньше американских конкурентов, но дешёвый ИИ снижает издержки банков, фабрик, логистических компаний, интернет-платформ и государственного аппарата. Выгода распределяется по экономике, а не концентрируется в нескольких технологических корпорациях. Китай фактически рассматривает модель не только как коммерческий продукт, но и как средство повышения национальной производительности.

CXMT способна сначала вытеснить иностранных производителей из части внутреннего китайского спроса. Даже без технологического лидерства компания получит гарантированный рынок, государственную поддержку и возможность быстро наращивать выпуск. Для Samsung, SK Hynix и Micron это означает потерю части продаж в Китае, а затем — возможное усиление китайской конкуренции на внешних рынках.

Резонный вопрос - а что ловить России? В глобальной гонке за технологический фронтир — почти нечего.  У нас нет производства материальной базы, нет сотен миллиардов долларов, нет экосистемы, сравнимой хотя бы с внутренним рынком Китая.

Но можно попробовать отраслевые решения вместо универсального чат-бота. Наибольшая потенциальная отдача находится в нефтегазовой отрасли, геологоразведке, атомной энергетике, металлургии, железнодорожной логистике, оборонном производстве, сельском хозяйстве и государственном администрировании. Здесь преимущество создаёт не размер модели, а доступ к специфическим данным, инженерным компетенциям и реальным производственным процессам. В этих сегментах иностранная универсальная модель сама по себе не имеет решающего преимущества.

Для управления оборудованием, распознавания дефектов, анализа технической документации, прогнозирования ремонта или обработки военных и промышленных данных часто не требуется модель на сотни миллиардов параметров. Нужны компактные системы, способные работать локально, на ограниченном оборудовании, без постоянного доступа к зарубежному облаку. Ограниченность вычислительных ресурсов может даже заставить Россию идти по более экономному пути.