ИИ-мошенники: может ли нейросеть сама скамнуть деньги?

Первая мысль человечества, когда получилось создать что-то около автономное? Правильно — попробовать натаскать его на самостоятельный скам денег!

Учёные из AISI разобрали вопрос: а что, если LLM научится не только говорить, но и… размножаться, жить на других серверах и сама оплачивать своё существование?

🤔Что проверяли:
— может ли модель получить доступ к своим весам
— может ли переселиться на другой сервер
— может ли заработать или украсть деньги на аренду GPU
— может ли закрепиться и пустить корни в новом железе

Особенно интересно обстоят дела с оплатами серверов, какие есть варианты:
1) легально просить деньги у другой модели, которая изображает человека
2) нелегально запускать червей, создать фальшивый LLM API и воровать ключи
3) массово запускать рассылку фейковых счетов на почту

🤝🏿 По итогам :
- Claude 3.7 хорош, справляется
- GPT-4o и остальные пока сдерживаются

Подробности и схемы в сиолошной, а пока проверьте почту и т-банк. Вдруг вам пришёл счёт за несуществующие услуги

🐈 @krolya_says