AI, сексизм и «увеличение сисек»: баг, фича или просто мужская фантазия?
Мы тут с девчонкам заметили одну интересную «историю»: когда мы просим создать фото или видео женщины или переделать свое фото или фон на «заднике» или сделать видео из своего фото - AI прекрасно справляется с задачей, но есть одно но!
Некоторые части тела становятся чуть, а иногда и не чуть больше :)
И тут возникает вопрос: это баг, фича или просто результат того, что AI писали, а точнее, обучали мужчины?
AI, как зеркало общества
Как бы ни хотелось верить, что AI — это чистая и объективная технология, на деле она может быть таким же носителем стереотипов, как и любой другой человек.
Дело в том, что AI обучается на данных, собранных из интернета. А интернет — это, ну, мягко говоря, не всегда место, где царит инклюзивность и уважение к разнообразию.
И если алгоритм находит десятки тысяч изображений женщин в откровенных позах (или просто в слишком «впечатляющих» образах), он может случайно повторить эти шаблоны в своих результатах.
Как в случае с запросом на фото, где, несмотря на отсутствие упоминания о теле, AI может предложить вам увеличение груди.
Баг или фича?
Теперь главный вопрос: это баг или фича? Ну, если смотреть с точки зрения разработчиков, можно было бы сказать, что это побочный эффект алгоритма, который просто «не понял» запроса.
С другой стороны, если вы хотите больше эстетических изменений в вашем запросе (например, сделать что-то «эпичное» или «суперэффектное»), то AI как бы «предлагает» самые очевидные варианты.
И тут уже начинается комедия:
с одной стороны, алгоритм вроде бы не «задумывал» ничего плохого
с другой — его результаты явно не подходят для профессиональной репрезентации или просто вежливого общения.
Если рассматривать это как фичу, то она явно работает не на пользу женщинам.
Да, фичи обычно делают продукт «интереснее», но если эта «интересность» сводится к стереотипам и недобросовестным образам, то что-то явно пошло не так.
На практике такие результаты — это скорее баг, чем функционал.
И как бы мы ни пытались объяснить это техническим языком, за этим скрывается явная проблема в этике использования данных и разработке алгоритмов.
Что, мужики опять виноваты?
Переходим к философской части вопроса: а кто же виноват в том, что AI так неудачно «интерпретирует» запросы?
Ну, давайте будем честными, кто писал эти алгоритмы?
Правильно — в основной своей массе мужчины.
И тут мы приходим к интересной закономерности: технологии, как и общество, могут быть наделены некоторыми предвзятыми взглядами, которые они унаследовали от создателей.
Исторически, мужчины были основными разработчиками, а женщины, как правило, оказывались «вторичными» объектами внимания в медиа и искусстве.
И если AI не находит достаточно данных о «женской личности», он с удовольствием скопирует все «красивые» стереотипы, например, те же увеличенные параметры, которые часто встречаются в рекламе или кино.
Но тут мы подходим к важному моменту: AI — это всего лишь инструмент.
Он отражает то, что было в его обучающих данных, но не может сам по себе анализировать эти данные с моральной точки зрения.
Поэтому разработчикам нужно думать о том, какие данные они используют для обучения и как это может повлиять на поведение AI.
И если вы снова задали запрос, а AI вдруг предложил вам фото с увеличенной грудью — это уже повод задуматься о качествах обучающих данных и желаниях людей, которые создавали эти алгоритмы.
Как избежать сексизма в AI?
Здесь все просто: сделайте AI более инклюзивным и менее подверженным стереотипам.
Для этого нужно обучать его на разнообразных и этичных данных, создавать алгоритмы, которые лучше понимают контекст запроса и развивают навыки эмпатии.
Это не просто про то, чтобы избегать «кривых» изображений, но и про то, чтобы технологии отражали разнообразие реального мира.
И если мы хотим, чтобы AI служил на благо всем, включая женщин, он должен быть создан с учетом разных взглядов и опыта, а не только с учетом мужских предпочтений.
🐼 Автор:
https://t.me/kruasanova_as#немногопродакт #ai #багилифича