Ведущие компании в сфере искусственного интеллекта (ИИ) приняли на себя новые добровольные обязательства в отношении безопасности ИИ, пишет Financial Times со ссылкой на заявления правительств Великобритании и Южной Кореи. В частности, они обязались опубликовать регламенты безопасности с описанием порядка оценки рисков, связанных с их продвинутыми ИИ-моделями, и «не разрабатывать и не развертывать модель вовсе» в случае невозможности снижения серьезных рисков. Среди прочих такие обязательства приняли на себя американские Amazon, Google, Meta (признана в РФ экстремистской организацией и запрещена), OpenAI, а также X AI Илона Маска и китайская Zhipu AI.
Artificial Intelligence
Страница: 1
Сообщений 1 страница 5 из 5
Поделиться22024-05-22 09:03:57
Скоро в Европе будут запрещены некоторые приложения с ИИ.
Те, которые признают не соответствующими европейским ценностям. Например, с оценкой социального поведения, столь популярной у властей Китая. Профильные министры стран ЕС уже одобрили соответствующий законопроект. Согласно нему под запрет попадают и технологии распознавания эмоций. И даже технологии распознавания лиц в общественных местах с помощью видеонаблюдения. Но есть исключения. Эти технологии разрешено использовать силовикам. В интересах демократии ессно. С терроризмом, например, побороться если. Или с торговлей людьми. Оно конечно предотвращать не предотвращает, зато как успокаивает. @sevseal
Поделиться32024-05-29 18:12:39
Bloomberg: Meta удаляет кампании влияния, созданные искусственным интеллектом
▪️Компания Meta Platforms Inc. удалила сотни аккаунтов в Facebook, связанных с тайными кампаниями влияния из Китая, Израиля, Ирана, России.
▪️Среди дезинформационных кампаний компания обнаружила обманчивую сеть из Китая, распространявшую сгенерированные ИИ изображения плакатов фиктивного движения сторонников сикхизма, а также израильскую сеть, размещавшую сгенерированные ИИ комментарии, восхваляющие израильских военных, на страницах медийных организаций и общественных деятелей.
▪️Компания заявила, что удалила многие из этих сетей, прежде чем они смогли создать аудиторию среди аутентичных сообществ. #Россия #Украина
Подписаться. (https://t.me/briefsmi)
Поделиться42025-04-03 22:55:06
(https://telegra.ph/file/b867b8f5857b87636de6a.jpg)ИИ-бог и видовой шовинизм
Летом 2015-го Илон Маск праздновал свой 44 день рождения. На празднике присутствовал его давний друг — со-основатель Google Ларри Пейдж. К тому моменту их отношения уже были напряженными: годом ранее оба очень хотели купить самый горячий ИИ-стартап того времени DeepMind, и в итоге, к глубокому огорчению Маска, он достался Google.
На вечеринке между Маском и Пейджем разгорелся спор насчет будущего ИИ. Пейдж описал свое видение утопичного будущего: люди сливаются с ИИ-машинами, на Земле появляются новые виды сознания, конкурирующие между собой за ресурсы — и в итоге лучший вид побеждает. Маск нападал на такой образ будущего, так как считал, что машины просто уничтожат людей. «Ты specieist», — заявил Маску Ларри Пейдж.
Specieist, или видовой шовинист, предпочитает свой биологический вид другим. Маск воспринял это обвинение максимально серьезно и впоследствии говорил, что оно стало последней каплей и разрушило его дружбу с Пейджем. Оно же помогло Маску найти свою маркетинговую стратегию в мире ИИ: он решил, что будет отстаивать права человеческого вида.
После этого спора Маск стал обвинять Пейджа и весь Google в том, что они недостаточно серьезно относятся к ИИ-безопасности, и через полгода вместе с Сэмом Альтманом основал свою “безопасную” ИИ-компанию — OpenAI. Ореол защитника людей в мире надвигающейся ИИ-угрозы помог Маску переманить ученых из Google в OpenAI и привлечь инвестиции.
На момент спора Пейджа и Маска и создания OpenAI мир еще находился в фазе «слабого ИИ», способного выполнять узкоспециализированные задачи вроде распознавания изображений или оптимизации поиска. Но с каждым годом прогресс в ускорялся и в начале 2020-х все заговорили о скором создании «сильного ИИ», способного делать все, что делает человек, и даже больше.
Нарратив про «безопасный ИИ», который нужно разрабатывать осторожно и всегда в пользу людей, терял привлекательность по мере приближения к «сильному ИИ», до которого, по словам Альтмана, остались считанные месяцы. ИИ-корпорации прямо говорят, что строят ИИ-бога, а к чему это приведет — думать некогда, потому что иначе ИИ-бога построят конкуренты из Китая, и такой бог точно будет злым.
Если в 2015 казалось, что Маск — гуманист, а Пейдж — отбитый трансгуманист, которому безразлична судьба людей, то сегодня рассуждения Маска кажутся скорее позерством, а вариант Пейджа — лучшим, на что мы можем расчитывать. В мире, где создание ИИ-бога стало национальной программой для США и КНР, не осталось центров силы, которые будут защищать интересы человека перед ИИ.
Подитожу свежим рассказом техногуру Джарона Ланье о сегодняшних нравах создателей ИИ: «Большинство моих друзей в мире ИИ — безусловно милые люди с благими намерениями. Но иногда они говорят безумные, как по мне, вещи. Например, на ИИ-конференциях циркулирует идея, что родители человеческих детей заражены «мыслевирусом», который заставляет их быть чересчур преданными нашему виду».
«Предлагается альтернатива: подождать немного с рождением детей, потому что скоро можно будет завести ИИ-детей. Такой путь считается более этичным, потому что именно ИИ будет иметь решающее значение для выживания людей. Другими словами, преданность человеческому виду теперь фактически считается антигуманной», – заключает Ланье.
Поделиться52025-04-21 23:00:08
ИИ важнее экологии
«Мы хотим строить датацентры, которые будут потреблять по 10 гигаватт электричества. А средняя атомная электростанция в США производит 1 гигаватт. Многие считают, что энергопотребление ИИ-индустрии вырастет с текущих 3% до 99% от всего производимого электричества. По моим расчетам, нам понадобится дополнительные 29 гигаватт к 2027 году, и еще 67 — к 2030», — заявил (https://www.youtube.com/live/HXoXMETZUiE) недавно бывший СЕО Google Эрик Шмидт на слушаниях в Конгрессе.
Ровно год назад я писал, что Марк Цукерберг мечтает строить ИИ-датацентры мощностью 1 гигаватт (хотя средний датацентр тогда потреблял в 10 раз меньше — около 100 мегаватт). Сегодня ИИ-индустрия развивается с такой скоростью и играет настолько важную политическую роль, что прошлогодние мечты смело множатся на 10 и кажутся жизненно необходимыми.
«Потребность ИИ-индустрии в энергии так велика, что сейчас нельзя отказываться ни от каких источников энергии, даже учитывая изменения климата. ИИ-революция улучшит нашу способность планировать и совершать открытия. Благодаря датацентрам и алгоритмам мы создадим новые материалы и источники энергии, а будущее станет гораздо чище и эффективнее», — говорит Шмидт.
ИИ-лобби предлагает снять зеленую повестку с повестки дня, потому что ее придумывали и продвигали еще во времена, когда о сегодняшних нуждах ИИ и его теоретических будущих возможностях никто, кроме фантастов, не задумывался. К слову, Трамп со своим презрением к теме климатических изменений и лояльности к «старой доброй» углеводородной энергетике пришелся ИИ-лобби как нельзя кстати.
Веру в то, что ИИ в скором времени будет обладать богоподобными возможностями и решит все проблемы нашей цивилизации, Шмидт называет «Сан-Францисскским консенсусом» — «потому что все, кто в это верит, живут в Сан-Франциско и пьют какую-то, видимо, особенную воду».
Сам Шмидт живет не в Сан-Франциско, но считает, что хайпа вокруг ИИ катастрофически не хватает и человечество плохо понимает, с чем имеет дело в виде этой технологии. Это его мнение можно объяснить меркантильным интересом: благодаря гугловскому ИИ Шмидт стал одним из самых богатых людей в мире. Чем больше денег идет в ИИ-индустрию, чем быстрее она развивается, тем богаче и влиятельнее становится он сам.
Я внимательно слежу за нарративами Шмидта, так как, во-первых, считаю его одним из самых умных людей техноиндустрии, и так богатой на умных людей. Во-вторых, мало кто в мире настолько хорошо понимает переплетение технологий и политики, а он уже почти 10 лет отвечает за стратегическое видение технологий при меняющихся американских правительствах.
Тезис Шмидта о том, что ИИ не хватает хайпа — это палка о двух концах. Да, условный ИИ-бог — это позитивная концепция, которая помогает радикально ускорить прогресс человечества, если мы все сделаем правильно. Но что если ИИ-бог больше полюбит “другого” — то есть первым появится в Китае, а не в США? Это опасение напоминает историю про Каина и Авеля и толкает нас к большой войне.
Страница: 1