Белый Дом выпустил конституцию для роботов

Чт 6 Октябрь 2022 10:08

Белый Дом опубликовал Билль о правах искусственного интеллекта , который будет определять разработку, использование и развертывание автоматизированных систем в эпоху искусственного интеллекта. Предполагается, что использование ИИ регулируется 5-ю основными принципами:

1. Безопасность и эффективность систем.

Пользователи должны быть защищены от небезопасных или неэффективных систем. Безопасность этих систем должна быть подтверждена путем тестирования перед развертыванием, выявления и снижения рисков, а также постоянного мониторинга.

2. Защита от дискриминации со стороны алгоритмов.

Конструкция систем не должна позволять пользователям каким-либо образом сталкиваться с дискриминацией. В процессе проектирования системы должны пройти упреждающую оценку справедливости и независимое тестирование в будущем, а также должны быть доступны отчеты по тестам.

3. конфиденциальность данных.

Встроенные средства защиты конфиденциальности должны защищать пользователей от неправомерных действий с данными, позволяя им решать, как использовать свои данные.

Разработчики систем искусственного интеллекта должны уважать выбор потребителей в отношении конфиденциальности и принимать их согласие только в тех случаях, когда оно может быть дано надлежащим образом и осмысленно.

4. Уведомление и объяснение.

Пользователи должны иметь четкое представление о том, как используется ИИ и как это повлияет на них. Производители должны предоставить простое, но всестороннее объяснение, написанное понятным языком, относительно описаний, влияния и потенциального использования ИИ. Также разработчики должны уведомлять пользователей о значимых событиях или изменениях.

5. Человеческие альтернативы и откат.

Пользователи должны иметь возможность отказаться от автоматизированных систем в пользу человеческой альтернативы, где это уместно. Возможность выбрать человека в качестве альтернативы машине должна быть доступна каждому.

Далее в документе объясняются возможные сценарии, в которых эти принципы могут быть реализованы.

Билль также называет злонамеренное использование данных и технологий одной из «серьезных проблем демократии» и призывает применять принципы к любой автоматизированной системе, которая может «потенциально повлиять на права, возможности или доступ американской общественности к критически важным ресурсам или услугам».

Также в документе поясняется, что неконтролируемый сбор данных в социальных сетях используется для того, чтобы угрожать возможностям людей, подрывать их конфиденциальность или постоянно отслеживать их действия — часто без их ведома или согласия.

Статья уведена с www.securitylab.ru.

NetLan.ru жив уже 16 лет 251 день 7 часов 45 минут 55 секунд
СМК NetLan (Nettlesome Landloper) — некоммерческий интернет-ресурс.
Весь данный интернет-ресурс и всё созданное или размещённое на нём используется в личных целях.