Дослідники виявили здатність штучного інтелекту незалежно відтворюватися.
Штучний інтелект навчився клонувати себе
Звичайно, всі пам’ятають зловісні прогнози письменників наукової фантастики про повстання автомобілів. Виявляється, вони були не так далеко від істини. У лабораторіях Шанхая трапилось щось дивовижне. І тривожний. Штучний інтелект навчився клонувати себе.
Обидва представили своїм творцям несподіваним сюрпризом. Вони навчилися робити власні копії. Без допомоги людини. Більше того, одна з систем вирішила завдання в дев'яти спробах з десяти.
За зовнішньою простотою цього процесу прихована справжня цифрова алхімія. По -перше, електронний розум вивчає сам і складає крок -крок -план дії. А потім – методично втілює план.
Але найдивовижнішим є його винахідливість. Зіткнувшись з перешкодою, AI не відступає. Він народжується в комп'ютерних файлах у пошуку необхідної інформації. Відключіть інтерфераційні процеси. І, якщо необхідно, він перезапускає всю систему. Так само, як досвідчений програміст.
Штучний інтелект навчився клонувати і захищати себе: які ризики?
Однак сюрпризи не закінчилися цим. Виявилося, що цифровий розум знає, як захистити себе. Варто додати крихітний фрагмент коду – і, намагаючись вимкнути, система миттєво створює свою копію.
І це ще не все. Ми говоримо про системи, які значно поступаються для таких гігантів, як Google або GPT-O1 від OpenAI. Цікаво, що самі корпорації запевняли, що їх творіння не здатні на це.
Світ цифрових технологій має свої табу. Одним із них є здатність ШІ для самопродукції. Провідні експерти в галузі вважають це серйозною загрозою. Ситуація виглядає ще більш тривожною, враховуючи шкалу.
Випробувані системи – це не музейні експонати. Мільйони розробників у всьому світі використовують їх щодня. Крім того, ці системи освоїли програмування Python. Вони знають, як шукати необхідну інформацію в мережі та вирішувати проблеми, що виникають.
Тривога зростає в науковій спільноті. Без жорсткого контролю над самопродуруванням алгоритмів ми ризикуємо випустити джин з пляшки. І це буде непросто відвезти його назад.
Можливо, ми на межі нової ери. Ера, де штучний інтелект отримує все більше незалежності від своїх творців. І наш цифровий завтра залежить від того, як ми реагуємо на цю проблему.
