Google обещает прозрачный искусственный интеллект

Обновлено 28/10/2021

Google планирует использовать искусственный интеллект в важных областях только тогда, когда логику его решений можно будет объяснить людям. «Сегодня современные модели машинного обучения работают больше как черный ящик, поэтому мы думаем над тем, чтобы повысить понятность некоторых из наиболее важных приложений и алгоритмов. Безусловно, ИИ важен и его следует разрабатывать, но особенно на начальном этапе он должен быть полностью подконтролен людям, аргументируя каждый свой шаг логикой», – пояснил Сундар Пичаи.

Одной из областей, где в настоящий момент искусственный интеллект использоваться не может, Пичаи назвал медицину. Он отметил, что использовать искусственный интеллект там невозможно, поскольку машины не могут четко объяснить своих решений. Да, в будущем это изменится, но в текущих условиях это может принести больше вреда, чем пользы.

«В конечном итоге, как общество, мы должны решить, как именно искусственный интеллект должен работать. Мы должны быть на 100% уверены, что наши системы следуют этим правилам. Например, если машина не может полностью аргументировать свои шаги в медицине, и если эти шаги вызывают вопросы у специалистов, мы не можем применять на практике такие системы. Если у нас нет такого объяснения, мы не сможем использовать машинное обучение для этих областей. И это официальная позиция Google», – отметил Сундар Пичаи.

Прозрачность решений машинного обучения и систем искусственного интеллекта является одной из главных проблем современных технологий. Часто цитируемым примером стал вопрос о том, как поведет себя автомобиль с водителем, когда авария будет неизбежна. Босс Google также заверил, что его компания одновременно с развитием ИИ снижает объемы обработки данных на своих серверах.

«Например, поскольку в смартфонах наши чипы машинного обучения становятся лучше, мы можем делать все больше и больше непосредственно на устройстве и отправлять меньше информации в облако. Список потенциально опасных веб-сайтов отправляется на устройство вместо того, чтобы отправлять имя страницы, которую пользователь хочет посетить, на серверы Google для сравнения», – сказал Сундар Пичаи.

Выполнение большей компьютерной работы на устройстве – это один из подходов, который Apple использовала, чтобы дистанцироваться от политики конфиденциальности Google.