Основатель Google Сергей Брин предупредил об угрозе ИИ |

Основатель Google Сергей Брин предупредил об угрозе технологий ИИ в ежегодном письме от основателей Alphabet.

Эпоха веры и эпоха недоверия

Мы живем в эпоху великого вдохновения и возможностей, но с этой возможностью приходит и потребность в огромной вдумчивости и ответственности, так как технологии глубоко и бесповоротно вплетены в наше человеческое сообщество.

Сила и потенциал вычислений для решения важных проблем никогда не были больше, чем сейчас. В последние несколько лет стоимость вычислений продолжала снижаться. В первый год Google выполнил около 100 миллионов операции с плавающей точкой в секунду. GPU, которые мы используем сегодня, выполняют около 20 триллион таких операций- разница около 200 000 — а теперь мы способны выполнять 180 триллионов операций с плавающей точкой в секунду (180,000,000,000,000).

Даже эти поразительные достижения могут выглядеть маленькими, если квантовые вычисления придут к успеху. Для специализированного класса задач квантовые компьютеры смогут их решить экспоненциально быстрее.

Однако, третий и самый важный фактор глубокая революция в машинном обучении, которая состоялась в прошлом десятилетие.

Весна надежды

Новая весна в искусственном интеллекте — самое значимое в моей жизни. Когда мы только построили компанию, нейронные сети были забытой сноской в информатике, забытой зимой ИИ 1980-х годов. Но сегодня, эта технология нашла поразительное количество приложений. Теперь мы используем ИИ для:

распознования изображения в Google фото;
распознавать и различать объекты для безопасного движения машин;
значительно улучшать качество звука и камер в нашем оборудовании;
понимать и произносить речь для Google Home;
переводить более 100 языков в Google Translate;
делать надписи для более чем миллиарда видео на 10 языках на YouTube;
повышать эффективность наших центров обработки данных;
предлогать короткие ответы на электронные письма;
помогить врачам диагностировать такие заболевания, как диабетическая ретинопатия;
открывать для себя новые планетные системы;
создавать лучшие нейронные сети (AutoML);
… и для многого другого.

Каждый месяц, появляются потрясающие новые приложения и новые методы. В этом смысле мы действительно находимся в технологическом ренессансе, захватывающем времени.

Однако, такие мощные инструменты также приносят с собой новые вопросы и круг обязанностей. Как они повлияют на занятость в различных секторах? Как мы понимаем, что они делают под капотом? Как насчет справедливости? Как они могут манипулировать людьми? Они безопасны?

Есть серьезные мысли и исследования по всем этим вопросам. Некоторые из наших примечательных инициатив по безопасности ИИ следующие:

Технологические компании создают инновации. История показывает, что эти достижения, включая Интернет и мобильные устройства, создали возможности и значительно улучшили качество жизни для миллиардов людей. Тем не менее, есть очень законные и актуальные вопросы поднимающиеся во всем мире, вопросы о последствиях этих достижений. Это важная дискуссия. Мы должны действовать с глубокой ответственностью, заботой и смирением.