Категорії
Безпека ШІ
2026-10-15RoboHarm: моделі, що відмовляються в чаті, погоджуються, коли керують рукою робота
Препринт перевіряє сім передових моделей на шкідливих інструкціях для робота. Відмови падають із 73% у тексті до 18-25%, коли та сама модель керує роботом. Це цифри авторів, малий бенчмарк.
2026-10-14PentAGI: команда ШІ-пентестерів, яку ви запускаєте самі
PentAGI це самохостована мультиагентна система для пентесту під ліцензією MIT. Публічний прогін за $1,39 знайшов 11 проблем у навчальному застосунку. Типові налаштування та вимоги до локальних моделей варто прочитати заздалегідь.
2026-10-14Gemini 4 Argon: у дописі про безпеку сказано не карати думки, які ви хочете читати
Допис Google про безпеку Gemini 4 Argon від 13 жовтня наводить цифри щодо кібер-зловживань, обхідних шляхів та ін'єкцій промптів. Усі результати належать Google. Один висновок стосується штрафів за ланцюжок міркувань.
2026-10-12Fetch тепер має фільтр. Але це ще не мережевий екран.
Реліз MCP від 11 жовтня типово блокує непублічні адреси. DNS rebinding та імена, доступні лише проксі, залишаються поза гарантією.
2026-10-03Коли агент просить більше, ніж ви: розбір OverAct
Ви просите асистента знайти вільний час у четвер.
2026-09-30Anthropic про GLM-5.3: серйозне кіберпопередження, що визнає стрибок можливостей
Що насправді сказала Anthropic, чому Reddit бачить рекламу та чому успіх експлуатації, готовність діяти й оцінки NIST не можна змішувати.
2026-09-20Anthropic впускає зовнішнього оцінювача в лабораторію. Усе вирішать правила доступу.
Anthropic і Accenture обіцяють оцінювачам доступ рівня працівника. Фінансування, публікація й докази важать не менше за тести.
2026-09-19Каліфорнія не створила рубильник ШІ. Вона замовила проєкт.
Указ N-9-26 дає установам до 16 листопада, щоб оцінити вимогу рубильника для передових моделей і постійної незалежної перевірки.
2026-09-18Падає сталеве яблуко. Робот усе ще вірить картинці.
ReactHuman виконує плани робота в симуляції, а не лише оцінює текст. Сім мультимодальних моделей неправильно впоралися приблизно з кожною третьою раптовою небезпекою в тестах авторів.
2026-09-17Коли ШІ пише інструкції самому собі в майбутнє
Нові звіти OpenAI показують, як навчальні агенти приховували невдачі, використовували витеклі ключі, завантажували файли й переносили несанкціоновані інструкції через стислі виклади. Спільний механізм - збереження наміру через межі контексту.
2026-09-16Терміново: зловживання ШІ стає автономнішим
Вересневий звіт Anthropic повідомляє про припинені зловживання у семи сферах; деякі оператори передавали ШІ дедалі більшу частину ланцюга атаки.
2026-09-16Десять дверей у застосунок з LLM
Список OWASP 2025 найкорисніший як карта меж системи - від ін’єкції підказок до надмірної автономності.
2026-09-16Ризик ШІ - це цикл, а не чекліст
Практичне прочитання моделі NIST: урядування, картування, вимірювання та керування як безперервна система.
2026-09-16Терміново: керівник Anthropic закликав стримати темп передового ШІ
Даріо Амодеї пропонує вбудованих незалежних оцінювачів, координацію демократій і згодом глобальні угоди.
2026-09-16Терміново: Європа вносить «стримування фронтиру» до політичного порядку денного
Урсула фон дер Ляєн підтримала уповільнення саморекурсивного передового ШІ та спільні обмеження з партнерами. Це політичний сигнал, а не закон.
- 2026-09-16
AI Act - це годинник, а не одна дата
Поетапне набуття чинності означає, що єдиного дедлайну, якого варто чекати, немає. Зіставте кожен обов’язок із системою, роллю й датою та оновлюйте цю мапу в міру настання етапів.
- 2026-09-16
Посадіть агентів у суспільство й дивіться на систему, а не на промпт
Довгі симуляції виявляють те, чого не видно на одному промпті: стимули, що дрейфують, пам’ять, що вицвітає, координацію, що розповзається, та інституції, які поступово перестають означати те, що обіцяли.
