OpenAI и Anthropic проверили безопасность ИИ-систем друг друга

OpenAI и Anthropic проверили безопасность ИИ-систем друг друга
ФОТО: ferra.ru

OpenAI и Anthropic решили совместно оценить безопасность своих открытых моделей искусственного интеллекта и поделились результатами тестов. Anthropic проверила модели OpenAI на склонность к «угождению» пользователю, выдаче опасных советов, самосохранению и поддержке человеческого неправильного использования.

OpenAI, в свою очередь, тестировала модели Anthropic на способность следовать инструкциям, избегать «обхода ограничений», выдавать неточные ответы и строить сложные схемы. .

openai anthropic проверили безопасность ии-систем друг друга

2025-8-29 20:17

Источник: ferra.ru

openai anthropic → Результатов: 7 / openai anthropic - фото


Фото: ferra.ru

Anthropic обошла OpenAI и стала лидером среди ИИ-моделей для бизнеса

Согласно новому отчёту венчурной компании Menlo Ventures, Anthropic теперь занимает первое место среди поставщиков ИИ-моделей для бизнеса, обогнав даже OpenAI. ferra.ru »

2025-08-02 18:20

Фото: ferra.ru

Apple заменит собственный ИИ в Siri технологиями OpenAI или Anthropic

Apple рассматривает возможность использования стороннего искусственного интеллекта (ИИ) от OpenAI или Anthropic в работе голосового помощника Siri. Это решение может стать поворотным моментом для компании, которая долгое время делала ставку исключительно на собственные технологии. ferra.ru »

2025-07-01 18:45

Фото: ferra.ru

Anthropic и Google присоединились к OpenAI в «гонке» за юридический ИИ

Популярный юридический стартап Harvey, известный своими ИИ-инструментами для юристов, объявил о расширении сотрудничества, добавив модели искусственного интеллекта от Anthropic и Google к уже используемым решениям от OpenAI. Об этом сообщает TechCrunch. ferra.ru »

2025-05-14 18:00

Фото: ferra.ru

Anthropic бросила вызов OpenAI: компания выпустит своего голосового помощника

Компания Anthropic, основанная бывшими сотрудниками OpenAI, намерена представить новую функцию голосового режима для своего чат-бота Claude, которая может составить конкуренцию функционалу ChatGPT. ferra.ru »

2025-04-16 16:30

Соучредитель OpenAI Джон Шульман покинул Anthropic спустя полгода

Джон Шульман, соучредитель OpenAI, покинул Anthropic спустя всего шесть месяцев после прихода в компанию. Шульман перешел в Anthropic в августе, чтобы сосредоточиться на процессе обеспечения того, чтобы системы ИИ следовали «человеческим ценностям». ferra.ru »

2025-02-07 16:55

Сооснователь OpenAI присоединился к другой ИИ-компании Anthropic

Дюрк Кингма, один из сооснователей OpenAI, объявил о своей новой роли в Anthropic, преимущественно «удаленной». Кингма ранее участвовал в команде алгоритмов OpenAI, сосредоточившись на генеративных моделях ИИ. ferra.ru »

2024-10-03 06:45

Anthropic может повторить судьбу OpenAI со столкновением в совете директоров

На фоне разговоров о получении колоссальных 750 миллионов долларов от Menlo Ventures, ИИ-компания Дарио Амодея Anthropic готова к столкновению в зале заседаний совета директоров, напоминающему недавние разборки OpenAI. ferra.ru »

2023-12-23 11:15

Партнеры

Самое свежее

Бывший Twitter оказался лидером среди соцсетей по сбору данных о геолокации

Недавно проведённое исследование о сборе соцсетями информации о местоположении пользователей выявили лидера по объёму собираемых данных. Специалисты изучили, как наиболее влиятельные социальные сети узнают, где находятся их пользователи.

Контора Маска DOGE скопировала базы соц. обеспечения в небезопасное облако

В США разгорелся скандал вокруг Агентства социального обеспечения (SSA). Главный директор по данным SSA Чак Борхес заявил, что сотрудники подразделения DOGE создали «живую копию» базы данных всех американцев с номерами социального страхования и перенесли её в облако без должного контроля.

Использование ИИ укрепит связи между странами, но есть нюанс — эксперт

Искусственный интеллект (ИИ) уже меняет работу многих специалистов, но бывший дипломат предупреждает о рисках его использования в международных отношениях. Дональд Килбург, экс-сотрудник Госдепартамента США, отмечает, что ИИ помогает дипломатам быстрее обрабатывать документы и готовить ответы на рутинные запросы.