Линус Торвальдс не боится восстания машин
Отцу Linux задали вопрос: не боится ли он, что рано или поздно будет создан искусственный интеллект, который выйдет из под контроля и сможет нанести вред человеку?
По мнению г-на Торвалдса, в ИИ абсолютно нет ничего такого, чего стоило бы опасаться.
Человечество создаст ИИ. Скорее всего, это будет что-то на основе recurrent neural network. Эту сеть, как и все остальные нейронные сети, нужно будет предварительно обучать, следовательно искусственный интеллект будет выполнять лишь те задачи, на которые его изначально ориентируют разработчики: распознавание речи, паттернов и тому подобное. Сомневаюсь, что это будет человекоподобный интеллект. Не волнуйтесь, вряд ли ваша посудомоечная машина когда-нибудь вдруг предложит вам обсудить философию экзистенциалиста Сартра.
Некоторые люди считают, что настанет время, когда интеллект машины превзойдет человеческий. А думаю, что это просто научная фантастика, причем не самая качественная. Нам говорят, что прирост производительности компьютеров описывается экспоненциальной кривой и этот рост будет бесконечным. Именно по этой простой причине компьютеры и станут умнее человека. Мне кажется, что люди себя попросту обманывают себя. В реальном мире не существует явлений, которые могли бы описываться бесконечно растущей экспонентой — скорее всего мы просто в самом начале сигмоиды. Следовательно, вряд ли когда-нибудь машины превзойдут по интеллекту человека и уж еще менее вероятно, что роботы поработят людей.
Комментарии
pomodor
9 июля, 2015 - 20:59
А вот Хокинг и Маск думают иначе. А эти люди поумнее Торвальдса будут.
Лично я не верю, что наше поколение увидит ИИ, сравнимый с человеческим. Но проблемы, тем не менее, возможны. И они связаны с банальным расп...вом. Когда-нибудь компьютерам доверят управлять машинами, потом самолетами, потом войсками и т.д. Поскольку заниматься разработкой будет человек (по крайней мере, первое время), то возможны сбои. Человеческий фактор, так сказать. Эти сбои и представляют наибольшую опасность.
Чингачгук
9 июля, 2015 - 21:14
ИИ превосходящий человеческий, опасен тем, что рано или поздно глобальная нейронная сеть из Супер-Компьютеров постигнет ущербность человеческого вида и в лучшем случае начнет им тотально управлять, что в перспективе приведет к атрофии навыков самостоятельно мыслить, человек станет полностью зависим от ИИ. Наихудшие сценарии описаны в различных антиутопиях, самая популярная красуется в виде наглядной картинки к данной статье.
pomodor
9 июля, 2015 - 22:40
Превосходящий человеческий действительно опасен. Вопрос лишь в том, реально ли его вообще создать? ИИ работает успешно уже в наше время. Например, распознавание голоса у Google или тот же Fine Reader — это всё нейронные сети, которые формально относятся к ИИ. Но разве у нас есть основания полагать, что одно лишь увеличение вычислительной мощности способно привести к тому, что Fine Reader когда-нибудь осознает себя и задумает уничтожить человечество? Я к тому, что существующие алгоритмы очень узко специализированы, а особых достижений в области разработки человекоподобного разума нет, насколько я в курсе.
Sunrise
9 июля, 2015 - 23:22
Лично меня больше пугает возможность возникновения тоталитарного государства, подобного Океании из «1984» Джорджа Оруэлла. Там для слежки за людьми использовалось такая штука, которая называлась «telescreen». Вроде как обычный телевизор, но его невозможно полностью выключить и он функционирует как камера видеонаблюдения, через которую Thought Police следит за гражданами. Такие штуки были в доме у каждого жителя Океании. Кстати, подобные штуки уже существуют. Сегодня уже есть технологии, способные создать вещи опаснее, чем telescreen. Например, Microsoft Windows 8(.1) по умолчанию предлагают вместо локального аккаунта использовать учётную запись Microsoft (а её теоретически можно в случае чего заблокировать). Технология Secure Boot позволяет ограничивать, какие ОС может запускать пользователь. Технологии типа Treacherous Computing позволяют удалённо блокировать или удалять определённые файлы (здесь подробно про TC). И это куда реальнее, чем некий разумный AI.
Intercessio
9 июля, 2015 - 23:32
Согласен. А ведь действительно реально.
Обяжут производителей телевизоров ставить чипы и всё, можно увидеть, записать
всё что хочешь.
Чингачгук
10 июля, 2015 - 09:57
Поэтому у меня нету телевизора )))
MikhailVinakov
10 июля, 2015 - 10:05
Ну так нужно подключать телевизоры к медиа-центрам. И не пускать их в сеть (ни Ethernet, ни Wi-Fi). Вот и будут они только то отображать, что на них медиа-центр пытается вывести. Сеть телику только для обновлений давать, хотя, если он как положено функционирует для отображения контента, то и обновлять его не требуется.
Тогда производителям телевизоров надо будет что-то дополнительное придумать, чтобы телевизор мог сливать информацию (или показывать рекламу), а пока пользователи свои устройства добровольно он-лайн держат, им (производителям) и напрягаться незачем.
Sunrise
10 июля, 2015 - 10:54
Говорю же, можно сделать вещи и поопаснее телескрина. Однажды Amazon удалила со своих читалок Amazon Kindle роман «1984». Было дело, Apple удалила музыку с iPad. Adobe Digital Editions следит, что читает пользователь и сливает в Adobe. А теперь представьте, что будет, если все эти технологии слежки и дистанционного контроля где-нибудь будут использоваться на государственном уровне.
pomodor
10 июля, 2015 - 23:42
О да, удаление книжки — это очень опасно. :)
Мне вспоминается другая страшилка. По-моему, из бумажной Компьютеры (эх, гениальный был журнал!). Так вот, там высказывалась интересная мысль, что пиксель ЖК-монитора может не только менять интенсивность свечения RGB-компонентов под действием электрического тока, но якобы возможен и обратный процесс — изменение тока при разном освещении. Теоретически, это позволяет собрать данные с 2 млн пикселей и преобразовать обратно в картинку. Если добавить сюда ИИ, то перспективы и вовсе волнительные. Представьте, сидит, например, Вася за компом, фапает с размахом, от души, а Скайнет это уже записывает. Потом Вася вырастает, становится президентом мира, а Скайнет выкладывает фоточки на стол и говорит: отныне, Василий, будешь делать только то, что мы тебе скажем. :)
Sunrise
11 июля, 2015 - 08:50
Удаление одной книжки — не так опасно, но если какое-нибудь правительство какого-нибудь государства будет так удалять любые неугодные ему книжки? Да что сразу президент мира? Тоталитарные режимы, например, так могут следить за обычными людьми для выявления диссидентов.
pomodor
12 июля, 2015 - 03:57
Так уже удаляют. Полистайте список запрещенной литературы Минюста. Причем, удаляют вместе с юзером. И диссидентов успешно выявляют. Для этого СОРМ-2 запилили еще сто лет назад. И что? Всем пофиг!
А вот когда драчунов начнут тайком записывать, а терминаторы пойдут насиловать женщин, вот тогда действительно можно будет обсудить приближающийся киберапокалипсис.
Sunrise
12 июля, 2015 - 18:36
Уже записывают.
Intercessio
9 июля, 2015 - 23:35
Я ранее тоже думал, что Терминатор будет на линуксе, но потом
понял, что будет только на проприетарном военном ПО с скрытыми, но
дефектными возможностями. Его же же особенно много тестеров пробовать не
будет из соображения секретности.
Чингачгук
10 июля, 2015 - 15:56
В последнего Терминатора, посмотрите, Skynet распространился, как бесплатное обновление коммерческой ОС Genesis , данная операционная система заменила собой управления всеми электронными устройствами — вот оно начало конца, пока есть альтернативы можно быть спокойным, но в 2017-ом)))
Чингачгук
10 июля, 2015 - 15:59
Windows 10?
pomodor
11 июля, 2015 - 02:07
А это маркетологи из Microsoft режиссеру денег занесли. За правильную подачу материала. Мол, все бесплатное и свободное ведет к уничтожению мира. Покупай платный MS Office вместо бесплатного скачивания LibreOffice и спасешь планету. Очень тонко, надо заметить. ;)
Platon
15 июля, 2015 - 08:47
4-ое ядрышко Linux на котором фунциклировал T800 уже вышло, ждем когда
GenesisAndroid на него перейдет))))Texnoline
13 июля, 2015 - 12:57
SmartTV и замануха облачными сервисами особенно в мобильном сегменте( уменьшение продаж flashcarts) текушие ласточки, плюс ко всему всякие тендеции к созданию "Интернет вещей", чем не Genesis!?:)
Будут ли Терминаторы насилующие неугодных хомяков и домохозяек, поживем и увидим!?:)
До кучи можно еще и философствовать на тему автопилотов, БПЛА и роботизированных авто, в Пендостане таки уже по дорогам общего пользования будут ездить с 2018 года!
P.S. Человечество само, всегда стремилось к " самовыпиливанию", так и создание ИИ может всего лишь приблизить, как вариант данное явление в социуме.
Intercessio
14 июля, 2015 - 19:57
Кстати SmartTV отнюдь не такие шикарные как их рекламируют.
Урезанные возможности и недекларируемые скрытые функции.
Вот Sony крутит только нужные форматы, на пиратские и нестандартные блок.
Проще купить телеприставку на андроиде и делать что хочешь.
Комментировать