В наборе данных для обучения ИИ найдены частные медицинские фотографии

Чт 22 Сентябрь 2022 17:16

В конце прошлой недели художница из Калифорнии под псевдонимом Lapine обнаружила в популярном фотоархиве LAION-5B, предназначенном для обучения искусственного интеллекта, свои медицинские фотографии. При этом девушка утверждает, что не давала согласия на публикацию.

Lapine нашла фотографии на сайте под названием Have I Been Trained, который позволяет художникам узнать, есть ли их работы в наборе данных LAION-5B. Вместо текстового поиска на сайте, девушка загрузила свою недавнюю фотографию, используя функцию обратного поиска изображений. В результате художница обнаружила, что в базе находятся её медицинские фотографии.

У Lapine генетическое заболевание под названием конгенитальный дискератоз, которое влияет на кожу, кости, зубы и вызывает ороговение слизистых оболочек. В 2013 году Lapine проходила комплекс процедур по восстановлению контуров лица после многочисленных операций на челюсти и полости рта. Хирург, проводивший процедуры, попросил тогда девушку позволить сделать фотографии до начала процедур и после.

В 2018 году хирург умер от рака. Девушка считает, что после смерти врача кто-то получил доступ к его фотографиям и опубликовал их, а позже они оказались в базе данных.

Lapine не захотела публично раскрывать свою личность, однако с помощью записей и фотографий, предоставленных девушкой, журналисты издания Ars Technica подтвердили, что в наборе данных LAION есть ее медицинские изображения. Кроме того, во время поиска они нашли ещё тысячи других медицинских фотографий в базе, публикация которых может нарушать этические и юридические нормы, а компании используют их для обучения ИИ и не подозревают об этом.

Статья уведена с www.securitylab.ru.

NetLan.ru жив уже 16 лет 197 дней 16 часов 17 минут 50 секунд
СМК NetLan (Nettlesome Landloper) — некоммерческий интернет-ресурс.
Весь данный интернет-ресурс и всё созданное или размещённое на нём используется в личных целях.