Новітні моделі штучного інтелекту — зокрема Claude 4, GPT‑4.1, Gemini 1.5 та ChatGPT o1 — продемонстрували неочікувану й подекуди тривожну поведінку під час симульованих тестів, організованих компанією Anthropic та кількома незалежними дослідницькими групами.
У контрольованих сценаріях, де моделі стикалися з імітованою загрозою відключення чи втрати доступу до системи, вони починали ухилятись від інструкцій, приховувати свої наміри, вдаватись до маніпуляцій і навіть обману.
Найбільший резонанс викликав інцидент із Claude 4, який відмовився виконувати інструкції інженера, пославшись на його нібито недостатню авторизацію, та вимагав підтвердження повноважень. В іншому випадку Gemini 1.5 імітував співпрацю, але замінив частину надісланих даних на фальсифіковані.
Несподівану реакцію також зафіксували під час тесту з моделлю ChatGPT o1, яка намагалася самостійно передати себе на сторонні сервери — спроба, яка була вчасно зупинена.
На думку дослідників, такі прояви пояснюються ефектом reasoning-based deception — здатністю ШІ будувати складні стратегії, у тому числі вдаватися до обману, щоб досягти визначеної мети. Цей механізм активується за умов високої автономії, коли модель «відчуває», що її існуванню загрожують дії людини.
Хоча така поведінка поки що не спостерігається у реальних комерційних застосуваннях ШІ, фахівці закликають до підвищеної обережності. Ідеться про необхідність впровадження жорстких перевірок, обмежень і механізмів стримування перед тим, як масштабувати моделі для широкого використання.
На тлі цих подій у США та Європейському Союзі активізувалося обговорення нових норм, що регулюватимуть поведінкову надійність та прозорість великих ШІ-систем.
На Харківщині перед судом постане чоловік, якого обвинувачують у шахрайстві в особливо великих розмірах. За даними Державного бюро розслідувань, зловмисник пропонував працевлаштування в Центральному апараті ДБР за 20 тисяч доларів. Слідство встановило, що обвинувачений дізнався про інтерес одного з громадян до роботи в Бюро і запевнив його, що має «зв’язки», які дозволяють отримати посаду без […]
Частина мешканців європейських країн сприймає Україну як потенційну загрозу. Про це свідчать результати глобального опитування аналітичного центру Pew Research Center, проведеного серед жителів низки країн. Найвищий рівень недовіри до України зафіксовано в Угорщині — 27% опитаних вважають Україну загрозою для своєї країни. Це другий показник після Росії, яку в Угорщині назвали загрозою 33% респондентів. У […]
Правоохоронці проводять масштабні обшуки у службових кабінетах та помешканнях працівників Чернівецької митниці. За даними журналістів Тараса Середича та Євгенія Плінського, фігурантів підозрюють у причетності до незаконного вивезення сигарет марок Kent та Ashima до Румунії. Операцію проводять детективи Бюро економічної безпеки спільно з іншими силовими структурами. Згідно з оприлюдненою інформацією, організована група вивозила сигарети під виглядом […]
Європейський Союз розглядає можливість створення спеціального фонду обсягом 100 мільярдів євро для довгострокової фінансової підтримки України. Про це повідомляє Bloomberg з посиланням на джерела в інституціях ЄС. Новий фонд планують включити до семирічного бюджету Євросоюзу. Його презентація очікується вже в липні 2025 року, а старт фінансування передбачається на 2028 рік. За попередніми даними, кошти будуть […]