Из машины

[noev]

Забавно, но в свое время фантастами очень много говорилось о главных законах робототехники. И один из них (не цитата, а смысл) - робот не может своим бездействием или действием убить человека. Спрашивается зачем создавать роботов опасных для существования человека, чтобы что?

Вы разве не заметили, что эта робот была создана на тех же принципах что и человек, в ней человеческие мотивы были заложены. Вот и получили совершенного убийцу. Во всех иных случаях создатель терпел фейлы со своим детищем.

[Shraibikus]

Забавно, но в свое время фантастами очень много говорилось о главных законах робототехники. И один из них (не цитата, а смысл) - робот не может своим бездействием или действием убить человека. Спрашивается зачем создавать роботов опасных для существования человека, чтобы что?...

Неправильно смысл вы определяете. Еще раз, внимательно:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

У робота, согласно первому закону, возникнет логическое противоречие в том случае, если вред человеку будет причинять человек же.
А случается это сплошь и рядом, постоянно и повсеместно.
В этом случае, согласно закону, логично будет уничтожить человечество. Эта тема была обыграна в фильме "Я, робот".

[Anatoly_]

noev
По мне так в других моделях не был заложен "инстинкт самосохранения". Не более. Поэтому они самоуничтожались. В новой модели он был заложен без каких-либо блоков. Это как мне увиделось.

[Anatoly_]

Shraibikus
Ну обыгрывать можно что угодно. На то они и фантасты. Однако спасение одного человека от другого не означает убийство человека. Просто блок не позволит, а спасать придется исходя из возможностей, заложенных в робота, вплоть до самоуничтожения. Это фантасты тоже обыгрывали. ))

[Shraibikus]

Да это понятно, конечно.
Просто здесь главный вопрос, что именно подпадает под понятие "вред".
Поле для трактовок весьма обширное.

[Mimoshel]

Хороший, мне понравился в отличие от консенсуса в этой ветке. Оба два персонажа вполне реалистичны и актеры хорошие.

Искусственный интеллект (ИИ) вопрос времени, и что будет после точки сингулярности с нами не знает никто. Уже сейчас, ~50-60% людей для функционирования экономики просто не нужны, лет через пять-десять этот процент до ~90-95% увеличится, даже без ИИ. Элон Маск, весьма неглупый чувак кстати, бьет в набат про опасность ИИ уже достаточно давно. Гугл тем временем только на этом и сосредоточен, и судя по всему, скоро ИИ таки сделают. А там мы либо будем на положении домашних животных, или еще хуже. Единственная надежда, это то, что ИИ на нас просто пох будет, как нам на муравьев.

[Tэд]

Mimoshel, согласен, по мне отличный, глубокий фильм. И согласен с Денисом Потаповым: дырка исказила пространство, "дама в беде".

АИ не связан человеческим образом мышления и метафорами. Главный герой же вообразил себя лыцарем и предположил, что АИ мыслит и оперирует в привычных ему рамках.За свою зашоренность и сексизм и поплатился.

[Не герой]

Элон Маск, весьма неглупый чувак кстати, бьет в набат про опасность ИИ уже достаточно давно. Гугл тем временем только на этом и сосредоточен, и судя по всему, скоро ИИ таки сделают.

Покури Савельева плотно и твои страхи уйдут.
ИИ невозможен.

[Mimoshel]

Савельев персонаж интересный. Курить там правда особенно нечего, пару его выступлений послушать и все, он просто повторяется со своим церебральным сортингом. В принципе тема интересная, но это не делает его специалистом по ИИ. Более того, часто он несет откровенную чушь, когда отходит в сторону от церебрального сортинга, например когда говорит про IQ. Да и церебральный сортинг идея не новая, называется евегеника, просто он хочет это на более научную основу поставить. В принципе, китайцы пошли другим путем: ищут гены "гениальности" и вроде бы что-то уже нашли. Я даже немного учавствовал в их исследованиях лет пять назад, но последних данных у меня нет. Короче, будет ИИ, никуда от этого не уйти.

[СИМ]

Пенроуз вместо Савельева подойдёт?

---Существенную роль в таком неотъемлемом свойстве разума, как сознание, играет некий "квантовый процесс" в так называемых микротрубочках нейронов мозга. Этот процесс влияет на сигналы, которыми обмениваются нейроны, внося принципиально важный ингредиент: невычислимость (а без нее не обойтись, если мы согласны с выводами отрицательной программы). В рамках существующей квантовой теории описать этот процесс невозможно (так как в ней все вычислимо, пусть даже и в вероятностном смысле). Можно сделать лишь некоторые количественные оценки, но до сколько-нибудь полной теории таких явлений еще далеко. Более того, Пенроуз считает, что создание этой теории должно быть связано с таким же радикальным, концептуальным пересмотром основ физики, какого в свое время потребовало создание общей теории относительности. По поводу реализуемости нужных квантовых процессов в клетках мозга тоже есть лишь косвенные данные---
http://scorcher.ru/art/theory/penrouse.php

Очень сомнительно, что Гугл перевернёт все наши представления о физике
Сделает робомобиль, но зарекламирует как прорыв в создании ИИ. Они это любят

[Mimoshel]

Неа, не подойдет. Пенроуз умен, но не бог. Честно говоря муть, за которую он вместе с Хоукингсом стал знаменитым, лично мне напоминает онанизм мозга: нет никакой возможности проверить экспериментально, т.е. абсолютно бесполезная теория. Резюмирую: ипанутый он немного, сам ничего осязаемого не сделал, и принимать на веру его рассуждения о чем-то, кроме его личных, заумных теорий, смысла не вижу. Кстати, как и идеи Савельева. Вот если бы кто-нибудь калибра Файнмана такие идеи продвигал бы, то было бы интересно послушать. Но сегодня файнманы, если и есть то они либо делают бабки на бирже, либо работают на Гуглы.

Можно спорить до хрипоты, но пока видим то, что видим: роботы делают все больше того, что раньше мог только человек, компьютеры все мощнее, алгоритмы улучшаются. Даже если ИИ в "чистом виде" не получится, то что-то типа киборгов, т.е. прямой интерфейс мозга и компьютера будет скоро точно. Короче, будет интересно. Даже если я и неправ, такие профессии как водитель, бухгалтер, грузчик, бюрократ, большая часть солдатни и полицейских, и многое другое, либо уже не нужны, либо весьма скоро будут не нужны.

[Не герой]

Даже если ИИ в "чистом виде" не получится, то что-то типа киборгов, т.е. прямой интерфейс мозга и компьютера будет скоро точно
Завидую твоей яростной несгибаемой вере.
Счастлив что не доживу до этой херни.

такие профессии как водитель, бухгалтер, грузчик, бюрократ, большая часть солдатни и полицейских, и многое другое, либо уже не нужны, либо весьма скоро будут не нужны.

Бог мой, не верю глазам.
Интересуюсь, тебе годков то скока?

[СИМ]

Можно спорить до хрипоты, но пока видим то, что видим: роботы делают все больше того, что раньше мог только человек, компьютеры все мощнее, алгоритмы улучшаются. Даже если ИИ в "чистом виде" не получится, то что-то типа киборгов, т.е. прямой интерфейс мозга и компьютера будет скоро точно. Короче, будет интересно. Даже если я и неправ, такие профессии как водитель, бухгалтер, грузчик, бюрократ, большая часть солдатни и полицейских, и многое другое, либо уже не нужны, либо весьма скоро будут не нужны.

Т.е. машины смогут действовать по определённым алгоритмам и человек, со своими способностями персонифицировать любое явление, будет восхищённо всплёскивать ручками, когда имитация ИИ достигнет уровня выполнения очень сложных алгоритмов. Даже поговорить за жисть смогёт до определённой границы.
Но, тем не менее, это не будет являться самосознанием. Сильный ИИ не воплотить теми возможностями, что пока что есть в распоряжении человечества. Даже теорбазы нету. Вот о чём говорит Пенроуз

[Tэд]

Даже если работу человеческого мозга нельзя описать в машине Тюринга, то вывод "АИ не будет" звучит натянутым. С одной известны и другие вычислительные модели, с другой стороны работа АИ не обязательно должна копировать работу человеческого разума, важен результат работы.

Так что АИ скорее будет, и его создание зависит от того будет ли человечество продолжать копать в этом направлении.

Два самых больших опасения по поводу АИ: специализированный о6раниченный АИ может привести к катострофическому социальному неравенству. Работники останутся без источника дохода, а капиталисты станут гипербогачами.

Общий АИ не будет связан биологическими ограничениями при эволюции и очень быстро многократно превзойдет человечество. Встреча европейцев и индейцами.

Один из поднимаемых вопросов в фильме "Если Ава обладает сознанием и интеллектом по меньшей мере сравнимым с человеческим, то этично ли держать ее тюрьме и грозить ей уничтожением? Имеет ли она право на самозащиту?"

Должен ли АИ быть наделен основными правами?

[Tэд]

И, разумеется, можем ли мы говорить "ей", "её", "она"? Ведь это наброс наших стереотипов, традиционной модели мира, когда парадигма уже сменилась: Ава - бесполый интеллект, который приспособил свою игру под наши ожидания о поведении существа с дыркой.

[Mimoshel]

Завидую твоей яростной несгибаемой вере.
Счастлив что не доживу до этой херни.

Бог мой, не верю глазам.
Интересуюсь, тебе годков то скока?

Это не вера, это факты. Годков мне дотаточно, вырос еще в СССР. Ты оглянись вокруг, люди на работе и не только занимаются полной херней. Людей трудоустраивают на никому не нужные места. Например, посмотри сколько в России охранников, это же ох.еть сколько лбов ничего не делают, я уже не говорю про бюрократов. У нас есть аналог: службы безопасности в аэропортах и количество бюрократов тоже растет на дрожжах, но все равно всем места не хватит. По самым скромным оценкам порядка еще 50% рабочих мест будет потеряно из-за автоматизации в течении 20 лет. Уже сейчас на заводах, где раньше нужны были тысячи людей нужны сотни, если не десятки.

Меня честно говоря прикаливает ваша вера в то, что всегда будет как было. Мы живем в переходный период: еще лет 150 назад практически все народы еле-еле себя прокормить могли, а сегодня производительность труда уже так выросла, что ~30-40% процентов людей могут бить баклуши и не только не умирать с голода, а еще и размножаться. Процессы идут интересные.

[Mimoshel]

Почитал кстати некоторые рецензии на книгу Пенроуза. Как я и подозревал, заумь ни о чем.

[СИМ]

О чём тогда спор? О том что совершенствуется элементная база, появляется возможность автоматизировать всё больше процессов, например ту же бухгалтерию, суть работы которой состоит в занесении данных в базы и обработке этих данных - так это несомненно.
Какое отношение это имеет к искусственному интеллекту? Усложнение алгоритма не ведёт автоматом к появлению сознания

[Mimoshel]

Да это я просто немного не в ту степь ушел. По поводу ИИ, как уже наверное понятно, я не спец, но из того я вижу вокруг и слышу, в том числе и лично, от людей типа Маска, мне не кажется, что это не достижимо. Поживем, увидим. Может, наше будущее не "Терминатор", а "Идиократия". :D

[Tuch]

Всем, кто оценил данный фильм, рекомендую ознакомится с фильмом Она.
И без АБФ наглядно, а уж со знаниями, в наиболее драматических моментах ржал