Неделю назад в системе искусственного интеллекта Gemini компании Google произошло своего рода короткое замыкание, которое привело к временной блокировке функционала, связанного с генерацией изображений, изображающих людей.
Скандал возник из-за ошибочных изображений, созданных ИИ: некоторые из них показывали темнокожих немецких солдат времен нацизма, а другие, все еще неточные, обрисовывали довольно полярный взгляд на этническую тему — тему, которая, безусловно, является деликатной.
Google не замедлил принести извинения, а генеральный директор Сундар Пичаи недавно высказал свои мысли по этому поводу.
В пресс-релизе говорится, что в Маунтин-Вью "работают день и ночь", чтобы исправить Gemini, хотя на данный момент нет подтверждения, что проблема полностью решена.
Сундар Пичаи, говоря о недавней критике ответов Gemini, согласился с тем, что инкриминирующие изображения, созданные ИИ, были свидетельством предвзятости со стороны компании, и такое поведение генеральный директор назвал неприемлемым. Признав ошибку, Пичаи также подчеркнул, что обязательства Google сходятся в "миссии по организации глобальной информации в доступной и полезной форме".
Ключевой принцип генерального директора — обеспечить полезность, точность и непредвзятость информации во всех продуктах, включая те, что основаны на искусственном интеллекте.
Вслед за этим он пообещал ряд конкретных действий, включая структурные изменения, обновление руководящих принципов, совершенствование процессов запуска и строгую техническую оценку.
Пичаи признал, что "ни один искусственный интеллект не может достичь совершенства", но при этом подчеркнул, что в Google знают о необходимых высоких стандартах.
Приверженность команд компании решению возникших проблем подчеркивает ценность обучения на ошибках и готовность к созданию новых технологий в области искусственного интеллекта
Завершая свою речь, генеральный директор Google заявил о том, что для создания необычных творений необходимо осознание того, что продукты не только полезны, но и способны заслужить доверие пользователей.
Таким образом, дело Gemini подтверждает, что это "промах", который в то же время поднимает важные вопросы, касающиеся развития и использования искусственного интеллекта.
