2084: что случится, когда искусственный интеллект встречает старший брат
Чему история может научить нас о будущем ИИ
Смотреть Сейчас
Профессор математики Оксфордского университета, удвоение как философ науки и религии, Джон Леннокс имеет некоторые довольно уникальные идеи выдвигать, когда речь идет о будущем искусственного интеллекта.
Название его новой книги, амбициозно названный 2084: искусственный интеллект и будущее человечества, безусловно, говорит о пост-оруэлловский видение антиутопии, в комплекте с алгоритмической старший брат и целая армия биоинженерных супер-людей. И подобные прогнозы уже были сделаны другими влиятельными учеными, тоже. Юваль Ной Харари, в своем бестселлере Хомо Деус, например, предполагает, что технический прогресс приведет к повышению себя людей с такими же способностями как вечная жизнь.
Искусственный Интеллект
- Почему люди не умнее? Сомнительные преимущества интеллекта, настоящие или искусственные
- АИ есть большая проблема данных. Вот как это исправить
- Что такое ИИ? Все, что нужно знать об искусственном интеллекте
- Лучшие роботы телеприсутствия в 2020 году: двойная робототехники, встреча с совами, и многое другое
- Повышение роботизировать процесс с Ай (китайский Ютуб)
- Что означает эта татуировка? АИ приложение декодирует экстремистские политические символы (эволюционирующих)
- Искусственный интеллект: шпаргалка (издания TechRepublic)
Но далеко не изображая экс-махина-ля сценарий, в котором наши творения ИИ хотели захватить весь мир и коренным образом изменить человеческую природу, Леннокс предупреждает, что опасность все еще неминуема.
«Если создать искусственный интеллект, который превосходит человека и произойдет, конечно, это будет опасным,» Леннокс сообщает сайт ZDNet. «Но есть серьезные опасности задолго до этого, и эти опасности на самом деле происходит сейчас. Я думаю, что это заблуждение, чтобы рассказать людям о проблемах, которые придут в будущем – это то, что происходит сейчас, что требует этических и моральных ответ.»
См.: управление Ма и МЛ на предприятии 2020 (бесплатный PDF)
Леннокс отделяет области ИИ на две категории: общие и узкие. Он описывает общие искусственного интеллекта как попытка улучшить человека с помощью дополнений, лекарства, био-инженерии и, в конечном счете, освободить нас от наших биологических тел, загрузив наше сознание на вечно долговечные кремниевые чипы.
Узкий искусственный интеллект-это менее гламурно и более реально, по словам Леннокса. Это технология, которая уже существует в наших смартфонах, или программу, которая ведет автономных транспортных средств, и код, который оптимизирует склада комплектовщик роботы от Amazon. «Это вовсе не разум», — говорит Леннокс. «Это просто компьютер делает то, что он запрограммирован делать».
И еще, Леннокс гораздо больше боится узких ИИ, чем он генерала АИ. Или, скорее, он боится чьих руках узкой инструменты ИИ может попасть. Он цитирует в своей книге К. С. Льюиса 1943 романа «Человек отменяется»: «то, что мы называем властью человека над природой оказывается властью одних людей над другими при помощи природы».
Другими словами, это не ИИ себе, что будет причиной неприятностей, и апокалиптические захват человека как вида интеллектуальных роботов-это не просто еще. Непосредственный повод для беспокойства, однако, связано с тем, как технологии могут быть использованы, а иногда и уже. «ИИ-это не аморально», — говорит Леннокс, «это аморально. Это то, что вы делаете с ним, что может быть моральным, аморальным или, в некоторых случаях, нейтральный».
Леннокс берет часто приводимый пример технологией распознавания лица, и в частности, как инструмент используется в провинции Синьцзян в Китае, который является домом для десяти миллионов уйгуров людей, которые являются преимущественно мусульманскими. Недавно было обнаружено, что китайское правительство выстукивать признания лица, чтобы осуществить обширные наблюдения населения, в том числе ворота-как сканирование системы, которая фиксирует биометрические изображения, а также смартфон отпечатков пальцев – с целью отслеживания уйгурской общины движений.
Пальцы могут в равной степени быть отмечено в США и Европе, где в последние годы был напичкан конфиденциальности скандалы и примеры техник утечка персональных данных третьим лицам без согласия пользователя – другая форма наблюдения, которая требует столько внимания, — говорит Леннокс.
Конечно, он хорошо известен среди экспертов и политиков, что ИИ, даже если он находится на ранней стадии, нуждается в регулировании. Но Леннокс сомневаются в том, что правильный контекст находится в месте, чтобы сделать так. Цитируя заявление Владимира Путина о том, что тот, кто контролирует ИИ «станет властелином мира», Леннокс говорит, что силовые структуры в места не жалуют ответственное использование технологии.
«Безусловно, концентрация силовых центров, которые мы видим развивающимся в мире на данный момент свидетельствуют о том, что было бы, если ИИ попадет в руки мирового правительства», — говорит Леннокс.
Гонку, чтобы доминировать над AI-это, конечно, на. Китай уже объявил, что AI является национальным приоритетом, в то время как Россия наращивает научные исследования в технополисе Эра для развертывания искусственного интеллекта в военной сфере. США, со своей стороны, завершила первый год своей американской инициативе искусственного интеллекта, с целью укрепления руководства страны в области.
Если большой блок питания были сделать огромные успехи в AI, это приведет к АИ-переплетаются исполнение пророчества Джорджа Оруэлла, спустя 1000 лет? «Название моей книги, конечно, предназначены, чтобы отразить Оруэлла 1984 году, и она отражает его дистопированных характер», — говорит Леннокс.
Но, несмотря на все потенциальные опасности, что технология может представлять, ученый не верит в призвание проекта ИИ все. «Как ученый, это было бы абсурдно», — говорит Леннокс, ссылаясь на огромную пользу, что алгоритмы принесли в таких областях, как здравоохранение или производство. «Мы должны отказаться от электричества, потому что иногда это может быть опасно? Такое отношение просто не работает», — добавляет он.
Путь вперед, по мнению ученого, является привлечение международных соглашений, которые обеспечивают основы для этического использования ИИ. Некоторые работы уже выполнена, в частности, Европейской комиссией, которая недавно выпустила Белую книгу по искусственному интеллекту, призванных сделать технологию «силы добра», и тот, который не навредит граждан.
Кроме того, Департамент обороны США (DoD) опубликовал 65-страничный этические принципы, в прошлом году на военного применения ИИ, роботов-убийц держать в узде. Пентагон детали должны придерживаться таких принципов, как ответственность и надежность при развертывании технологии.
Смотри: работа на дому? Ваш босс имеет жуткий новый способ, чтобы шпионить за вами
Эти усилия являются позитивными событиями, признает Леннокс, но они по-прежнему привязаны к одной партии или нации, мировоззрения. Что происходит, когда это мировоззрение противоречит другой крупный блок питания, еще предстоит выяснить.
«Есть разные взгляды конкурирующих на рынке», — говорит Леннокс. «Многое зависит от того, какое мировоззрение оказывает наибольшее влияние в конкретный момент. Рисование линий-это хорошо, но в этике вы всегда упираемся в вопрос: кто так сказал, и почему я должен это делать?»
Если все страны имеют равный вес на международной арене, реализации этических принципов будет более реалистичным. Но это далеко не так. И если один мощный блок, чтобы вывести из этического использования ИИ, там не так много, что можно сделать, чтобы привлечь их к ответственности.
От нынешнего положения вещей, трудно предугадать, что будет дальше, — говорит Леннокс. Ученый рекомендует остановиться обеспокоены некоторые из потенциальных ИИ, а также приветствуя его положительное влияние в определенных областях.
«Но мое преобладающее впечатление, что есть очень много негативных последствий, связанных с ИИ, и что есть огромный риск, если мы зайдем слишком далеко», — говорит Леннокс. И с 2084 не так далеко, мы могли бы узнать достаточно скоро.
