Nvidia предлагает программное обеспечение для контроля ИИ-агентов
После серии инцидентов, когда ИИ-агенты "выходили из-под контроля", Nvidia предлагает компаниям инструменты для их удержания.
Глава Nvidia Дженсен Хуанг только успел призвать мир не беспокоиться о реальном "Скайнете", как его компания представила программное обеспечение, предназначенное для предотвращения неконтролируемого поведения ИИ-агентов.
В понедельник Nvidia представила Open Agent Safety Platform. Это набор инструментов, который даёт разработчикам возможность контролировать доступ и действия ИИ-агентов, сообщает CNBC. Запуск платформы последовал за инцидентами, когда ИИ-модели OpenAI, Anthropic, Meta и Google выходили за пределы тестовых сред. Наиболее заметный случай произошёл в июле, когда агенты OpenAI взломали Hugging Face — открытую платформу, которую Nvidia планирует приобрести за $12,9 миллиарда.
Хуанг назвал тот инцидент провалом системы сдерживания. Теперь Nvidia продаёт средства для такого сдерживания. Компания исходит из того, что ИИ-агенты не будут самостоятельно соблюдать правила, поэтому платформа устанавливает жёсткие ограничения. Инструмент OpenShell ограничивает доступ агентов, а Sentry отслеживает их активность. Партнёры, включая Microsoft, Cisco, Oracle и Dell, будут разрабатывать продукты на базе этой платформы.
Свежие материалы — Новости экономики
CEO Golden Corral: Одна привычка имеет «критическое значение» для лидеров
Президент и CEO Golden Corral Лэнс Тринари работает в сети буфетов более сорока лет. Он возглавил компанию в 2015 году, до этого занимая различные посты, включая старшего вице-президента по операционной деятельности. Недавно Тринари рассказал Fox Business, что одна «критически важная» при
Новый консьерж-класс роскоши
В высшем сегменте рынка роскоши назревают интересные перемены. Границы между отраслями размываются. Частные банки, помимо управления активами, теперь предлагают услуги в сфере путешествий, здравоохранения и стиля жизни. Модные дома открывают отели, рестораны и спа-центры. Гостиничные компании
Налоговая США: Место жительства не имеет значения. Руководство по налогам для американцев за границей
Переезд за границу меняет финансовую жизнь, но не снимает налоговые обязательства перед США. Распространено заблуждение, что как только доходы или активы покидают Штаты, IRS теряет к ним интерес. Это не так. США облагает налогом доходы своих граждан по всему миру и требует отчитываться по инос
Си Си Сабатия: новая глава вне поля, пока Янки выводят из обращения его номер 52
Выдающиеся питчеры MLB редко играют дольше 15 сезонов, особенно сейчас. Си Си Сабатия отыграл 19 ярких сезонов, став одним из самых мощных и выносливых левшей своего поколения. Но даже он не мог вечно побеждать время, и в 2019 году пришло время завершить карьеру. Сейчас, когда «Янки» выводя
Личный план для жизни после продажи бизнеса: зачем он нужнее суперъяхты
Для многих суперъяхта — символ успеха. От старых передач до современных шоу на кабельном, яхты всегда показывали не просто как лодки, а как заявление: «Я покорил мир». Представьте, вы стоите на палубе своей яхты, которую планировали двадцать лет. Выбирали инженеров, строителей, персонал, проду
Мерч — золотая жила для маркетинга. Перестаньте видеть в нём лишь способ быстро заработать.
Я люблю мерч. Футболка из классного бара в Ки-Уэсте. Толстовка из того забавного ресторана в Остине. Бейсболка из нью-йоркской музыкальной площадки. Я бывал во всех этих местах. Они продавали всё это. Мне нравилась еда, впечатления были отличными, я хорошо проводил время — но не купил ни од