Мы опасны, а не машины


ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: Компьютер может побить вас, но стремиться увидеть разницу между кошками и собаками. Означает ли это, что это не разумно?

Литературный критик в СОВРЕМЕННЫЕ ВРЕМЕНИ.
Email: henning.ness@icloud.com
Опубликовано: 7 февраля 2020 г.
Искусственный интеллект - руководство для мыслящих людей
Автор: Мелани Митчелл
Издательство: Книги ПеликанаВеликобритания

Эксперты по искусственный интеллект (КИ) в основном разделен на два лагеря: те, кто уверен, что машины передадут людям интеллект за относительно короткое время, и кто боится, как это повлияет на человечество, и те, кто уверен, что машины никогда не смогут станьте умнее нас и, следовательно, верьте, что бояться нечего.

Автор Мелани Митчелл определенно относится к последней категории.

Митчелл - профессор informatikk в университете Портленда и работал с аналоговым мышлением, сложными системами, генетическими алгоритмами и клеточными автоматами (математическое моделирование). За ней стоит несколько книг и публикаций, среди прочего Введение в генетические алгоритмы (1996). Она утверждает, что хотя машине удалось сделать себя непревзойденной в шахматах, для чего-либо еще ее недостаточно.

Я думаю, что она кажется слишком спокойной в своих взглядах. Это правда, что то, что легко изучать для человека, трудно для машин, но применяется и обратное. С другой стороны, самая большая проблема заключается в том, что у машин и людей возникают проблемы с пониманием друг друга. Нам трудно понять, почему интеллектуальные машины стремятся к чему-то, с чем даже маленькие дети могут справиться так же легко, как ничего - например, к различию между собакой и кошкой на фотографии.

Мы, люди, склонны переоценивать интеллект машин и недооценивать их.
наш собственный.

Компьютеры молниеносно изучают правила различных игр, но сталкиваются с большими трудностями при объяснении hvorfor они делают так, как мы понимаем. Это вряд ли понятно для машины. Но когда мы смотрим на то, как быстро развивалась компьютерная наука, мало что можно исключить в будущем. Книга слишком мала о слиянии человека и машины.

Объяснение проблемы

Человек может легко объяснить, почему он решил гулять в парке, а не мыть дом. Но как машина может объяснить, почему она выбрала определенную функцию на шахматной доске, а не один из триллиона других вариантов? Не может Он также не понимает, что он победил или что значит «победить». И при этом он не может наслаждаться победой. Поэтому мы можем отклонить его как «неразумный».

Но идиоты могут быть опаснее умников. Таким образом, тот факт, что машина глупа, не доказывает, что она не может быть опасной в будущем.

"Я в ужасе. Просто спасение жизни ». Дуглас Хофштадтер

Поскольку скорость разработки в этой области была огромной, конечно, легко поверить, что она связана с быстрым увеличением мощности машины. Может быть, слишком просто. В 1980-х он стал ученым и физиком Дуглас Хофштадтер спросил, не думает ли он, что машина когда-нибудь станет чемпионом мира по шахматам, на что он однозначно ответил нет. Когда он осознал, насколько он был неправ, его охватил ужас: на встрече с инженерами Google где-то в 2000-х Хофштадтер сказал: «Я в ужасе. Просто спасение жизни. "

Авантюрное развитие

Развитие навыков различных машин в 1970-х годах описывает Митчелла как приключение. Теперь приключение стало таким, каким мало кто мог представить, и вы можете описать это как связь между рассказом о приключении и участием в самом приключении, Быть частью приключения, наверное, весело, пока вы не поймете, что человек играет роль Красного Худа, а машина похожа на волка - и что приключение действительно сбылось.

Хеймат Ахмади, см. Www.libex.eu
Хеймат Ахмади, см. Www.libex.eu

На вопрос: «Насколько мы должны бояться развития KI?» Митчелл отвечает: «Естественно бояться, когда мы смотрим фильмы и читаем научно-фантастические книги о разработке KI. Но это чистая выдумка ».

Но она также упоминает, что мы все еще далеки от того, чтобы достичь состояния «Общего искусственного интеллекта» [систем, которые можно обучить практически чему угодно, под ред.], Также называемого «Вызовом выравнивания».

Митчелл больше боится глупости, чем самой разведки. Я сам считаю, что дело не в этом, а в том, что феномен делает с нами, потому что, независимо от того, назовем ли мы это глупостью или разумом, не имеет значения, угрожает ли это явление нашему существованию.

Она отвечает однозначно: «В любом случае краткосрочных предположений о сверхразведке ИИ победа над людьми должна быть далеко внизу списка».

Позвольте мне просто сказать, что такой эксперт, как Рэй Курцвейл, считает что-то совершенно другое. Например, предсказал Курцвейл (в книге Возраст интеллектуальных машин, 1990), что компьютер может победить человека в будущем, что произошло семь лет спустя, когда IBM Deep Blue победил Каспарова, тогдашнего чемпиона мира по шахматам.

Поддельные СМИ

«Мы должны знать о внутренних ограничениях новых систем, если только мы не переоценим их», - пишет Митчелл. Хотя я думаю, что Митчелл кажется слишком беззаботным с точки зрения того, как быстро могут развиваться машины, и как быстро мы можем потерять контроль над ними, у нее много хороших моментов. Одним из главных моментов является то, что мы, люди, склонны переоценивать интеллект машин и недооценивать свой собственный - мы опасны, а не машины. Прежде всего, люди должны бояться собственных возможностей, потому что к тому времени, когда машины действительно станут опасными, может быть уже слишком поздно.

Она выражает некоторую обеспокоенность по поводу того, как машины могут быть использованы. В частности, она боится осложнений нашего использования машин в рамках того, что называется поддельные СМИтекст, изображения, аудио и видео, которыми можно манипулировать так, чтобы обычные люди не могли их увидеть.

Она также предостерегает от неэтичного использования алгоритмов. снова; В первую очередь мы должны бояться самих себя, а не машин. Но проблема в том, что граница между людьми и машинами размыта.