На докладе мы сравним несравнимое и попробуем понять, что же общего между подсчётом из космоса количества самолётов на аэродроме и кредитным скорингом, как перестановка одного бита в обученной модели может сломать алгоритм детекции движения и что с этим делать!

Для этого вам расскажут полный путь прохождения спутникового снимка от открытия крышки камеры на орбите до выставления данных дистанционного зондирования по API, а на его основе попробуем совместно спроектировать аналог SLSA из знакомого нам мира защиты CI/CD пайплайнов, но уже и для космоса, и для банковских систем работы с данными машинного обучения. Мы изучим различные подходы к подтверждению доверия данных на всём жизненном пути, осознав, что же из букв KPI, KSI и PKI — это реальные технологии, а не пугалки менеджеров.

Практическая часть доклада покажет модель угроз для систем работы с данными, где есть большие выборки как обучающих данных, так и данных для инференса: подмена снимков, выдача устаревшего продукта, незаметная правка изображения, потеря связи между исходным снимком и производным продуктом, а также недобросовестная выдача результатов поиска. Для каждой угрозы будет показано, какие доказательства должна хранить система, где их лучше фиксировать и какие проверки может выполнить получатель без доверия к оператору хранилища.

Мы также обсудим ограничения подхода: стоимость записи в распределённый журнал, защита закрытых ключей, масштабирование для больших архивов, связь с каталогами, сохранение тайны коммерческих снимков и персональных данных пользователей банков.

В заключении доклада мы совместно почитаем методичку ЦБ по работе с ИИ и посмотрим, что можно купить прямо на Ozon для создания аппаратного корня доверия спутниковых систем ДЗЗ.