В США искусственный интеллект, развиваемый по инновационной системе GloVe, внезапно оказался «расистом», выдавая негативные ассоциации к популярным среди афроамериканцев имен.
Эта система подразумевает развитие «навыка» самостоятельного подбор роботом приятных и неприятных ассоциаций к различным словам,которые ему предлагает пользователь.
При этом робот использует для анализа весь массив англоязычных сетевых текстов.Но когда искусственному интеллекту предложили список имен, популярных среди белых и темнокожих, робот определил первые как «приятные», а «вторые», как «неприятные».
Причина такого конфуза, очевидно, заключается в том, что имена афроамериканцев чаще фигурируют, например, в криминальных сводках.
«Наши результаты означают, что язык сам по себе несет постоянно используемые и точные отпечатки наших предрассудков», — весьма расплывчато оценили результаты своего опыта американские ученые.
Свежие комментарии