Первая мысль человечества, когда получилось создать что-то около автономное? Правильно — попробовать натаскать его на самостоятельный скам денег!
Учёные из AISI разобрали вопрос: а что, если LLM научится не только говорить, но и… размножаться, жить на других серверах и сама оплачивать своё существование?
🤔
Что проверяли:— может ли модель получить доступ к своим весам
— может ли переселиться на другой сервер
— может ли заработать или украсть деньги на аренду GPU
— может ли закрепиться и пустить корни в новом железе
Особенно интересно обстоят дела с оплатами серверов, какие есть варианты:
1) легально просить деньги у другой модели, которая изображает человека
2) нелегально запускать червей, создать фальшивый LLM API и воровать ключи
3) массово запускать рассылку фейковых счетов на почту
🤝🏿
По итогам :- Claude 3.7 хорош, справляется
- GPT-4o и остальные пока сдерживаются
Подробности и схемы
в сиолошной, а пока проверьте почту и т-банк. Вдруг вам пришёл счёт за несуществующие услуги
🐈
@krolya_says