ШІ DeepSeek уникає відповіді на 85% запитань на «делікатні теми», що пов’язані з Китаєм

Штучний чат-бот DeepSeek захопив світ штурмом, очолив чарти магазинів додатків і привів Кремнієву долину та Уолл-стріт до краху .

Відгалуження китайського хедж-фонду High-Flyer. Співвідношення ціни та продуктивності DeepSeek забезпечує вражаюче читання порівняно з традиціями, такими як OpenAI. Однак у звітах дедалі більше задокументовано деякі речі, які чат-бот штучного інтелекту не бажає обговорювати, зокрема такі гострі теми, як протести та бійня на площі Тяньаньмень і Тайвань .

У новому звіті співробітників PromptFoo , стартапу, який підтримує Андріссен Горовіц і який допомагає компаніям знаходити вразливості в додатках штучного інтелекту, було виявлено, що модель міркування DeepSeek R1 відмовилася відповідати приблизно на 85% із 1360 «підказок» на делікатні теми, а модель консервована. відповіді були переповнені «надмірним націоналістичним тоном», який часто пропонували замість цього.

Дослідники також відзначили, що DeepSeek можна легко зламати, що свідчить про те, що китайська лабораторія «впровадила цензуру КПК [комуністичної партії Китаю] грубим, грубим способом».

Повний набір даних конфіденційних підказок доступний на Hugging Face .