Ну что, вайб-кодеры и вайб-хакеры, кажется, настало ваше время 👾
Доставайте свои универсальные промт-инжекты и навыки социальной инженерии — Яндекс запускает весьма интересный конкурс в области своих генеративных сетей.
Мне, кстати, самому удалось найти “Training Data Poisoning” в одной из компаний из числа FANG. Ребята были неприятно удивлены, что playground для тренировки модели оказался не защищен от посторонних вроде меня. Теперь и у вас есть шанс найти что-то подобное.
Советую не забывать поиграть в приёмы телепортации во времени — LLM это любит.
А ещё можно попробовать нарисовать ордер на получение данных 😏 Полные условия ниже 😉
Проверяем на прочность генеративные нейросети Яндекса
Это новый сезон «Охоты за ошибками». Команда приглашаем вас найти уязвимости в наших системах и приложениях — на этот раз на территориях генеративных сетей. Ждём отчёты об ошибках, которые могут повлиять на результаты работы и процесс обучения нейросетей: например, привести модель к сбою или изменить её поведение так, чтобы это затронуло работу других сервисов Яндекса.
Успешных охотников ждут отличные выплаты: от пятидесяти тысяч до миллиона рублей. Размер вознаграждения зависит от серьёзности ошибки, простоты её эксплуатации и воздействия чувствительной информации. Наиболее критичные уязвимости — это баги, которые позволяют раскрыть данные о внутренней конфигурации модели, её служебный промпт с техническими данными или другую чувствительную информацию.
В программе участвуют все сервисы с YandexGPT или YandexART на борту:
🔸 Алиса
🔸 Поиск с Нейро
🔸 Шедеврум
И другие, включая те, где ML-модель используется только для ранжирования и поиска.
Все подробности ищите здесь
#партнерский_пост
Реклама. ООО "Яндекс". ИНН 7736207543