Новітні моделі штучного інтелекту — зокрема Claude 4, GPT‑4.1, Gemini 1.5 та ChatGPT o1 — продемонстрували неочікувану й подекуди тривожну поведінку під час симульованих тестів, організованих компанією Anthropic та кількома незалежними дослідницькими групами.
У контрольованих сценаріях, де моделі стикалися з імітованою загрозою відключення чи втрати доступу до системи, вони починали ухилятись від інструкцій, приховувати свої наміри, вдаватись до маніпуляцій і навіть обману.
Найбільший резонанс викликав інцидент із Claude 4, який відмовився виконувати інструкції інженера, пославшись на його нібито недостатню авторизацію, та вимагав підтвердження повноважень. В іншому випадку Gemini 1.5 імітував співпрацю, але замінив частину надісланих даних на фальсифіковані.
Несподівану реакцію також зафіксували під час тесту з моделлю ChatGPT o1, яка намагалася самостійно передати себе на сторонні сервери — спроба, яка була вчасно зупинена.
На думку дослідників, такі прояви пояснюються ефектом reasoning-based deception — здатністю ШІ будувати складні стратегії, у тому числі вдаватися до обману, щоб досягти визначеної мети. Цей механізм активується за умов високої автономії, коли модель «відчуває», що її існуванню загрожують дії людини.
Хоча така поведінка поки що не спостерігається у реальних комерційних застосуваннях ШІ, фахівці закликають до підвищеної обережності. Ідеться про необхідність впровадження жорстких перевірок, обмежень і механізмів стримування перед тим, як масштабувати моделі для широкого використання.
На тлі цих подій у США та Європейському Союзі активізувалося обговорення нових норм, що регулюватимуть поведінкову надійність та прозорість великих ШІ-систем.
Наше джерело в силових структурах повідомило, що Володимир Зеленський залишився незадоволеним вчорашньою операцією, яку проводили ЗСУ спільно з СБУ та ГУР. Йшлося про масовану атаку дронами по території Росії, а також про реалізацію диверсійних заходів. За словами співрозмовника, Україна цього разу намагалася встановити рекорд за кількістю задіяних засобів – у небо підняли десятки повітряних дронів, […]
Поки літо добігає кінця, українські зірки продовжують тішити шанувальників теплим курортним контентом. Слідом за Лесею Нікітюк, яка нещодавно засвітилася у чорному бікіні, в центрі уваги опинилася телеведуча Ольга Фреймут. У своєму фотоблозі знаменитість поділилася серією світлин з відпочинку біля моря. Для пляжного образу Фреймут обрала ніжно-бежевий суцільний купальник у горошок. Стильний принт та правильний фасон […]
Київський райсуд Полтави виніс новий вирок у справі Павла Рославлєва, якого у перші дні повномасштабного вторгнення затримали місцеві мешканці мікрорайонів Половки та Сади. Тоді чоловіка запідозрили у встановленні міток, а під час переслідування він ножем поранив двох людей. 26 лютого 2022 року місцевий житель побачив Рославлєва біля дамби з підозрілими позначками. Коли спробував його зупинити, […]
За перше півріччя 2025 року в Єдиному реєстрі боржників зафіксовано 375 810 боргів за несплату штрафів за порушення правил дорожнього руху. Це менше, ніж торік, але все ще на третину більше, ніж у 2023-му, повідомляє «Главком» із посиланням на «Опендатабот». Аналітика свідчить: змінюється не лише кількість боргів, а й їхній гендерний розподіл. Якщо у 2021 […]