7. *2016/10/26 10:27
[ответить]
>>6.Голышев Георгий
> НЕ ХОТЯТ ВИДЕТЬ. То есть да - теоретически, когда-нибудь, возможно, не на нашей планете... Кто-то, наоборот, очень хочет и ждет.
Не ХОТЯТ ВИДЕТЬ - это, может быть, про политиков, тогда уж? Генералов тех же.
Ученые, обычно, все-таки видят. Согласна, есть экземпляры, кто только планы выполняет. Но они обычно НИРы на бумаге выполняют, от них и вреда нет.
Вот вариант с "хочет и ждет" мне больше импонирует. Я лично знаю нескольких ученых в области суперкомпьютеров, который верят в теорию сингулярности Рэя Курцвейла и ждут. 2050 обещанного года.
В конце концов да - есть и оптимистичный взгляд в будущее. Почему сразу СкайНЕТ?:)
Еще кто-то верит, что технический прогресс остановить нельзя. Разве что затормозить искусственно, но при таком экспоненциальном темпе развития, что это даст? Выигрыш в 1-2 года? Колоссально)))
Ну а раз так - то почему отдавать пальму первенства той же Америке? Может, мы мудрее сможем с ИИ познакомиться и подружиться? ;)
Кто-то верит, что за эти годы, которые остались до ИИ, мы и сами разберемся как следует в работе мозга. И сможем себя модифицировать - ну там, оперативной памяти докупить, процесс усвоения информации ускорить.;) Массивного параллелизма нам у компьютеров не занимать. Ну и будем общаться на равных, или даже сможем занять позицию "родителя" для "ребенка"?
Или, еще вариант - столь критикуемый Стругацкими тезис, что Сверхразум это Сверхдобро :) Или возможность параллельного развития, не мешая друг другу.
ИИ, это все-таки не атомная бомба, а разум.
Но вообще спор о том, что несет нам прогресс - он вечный) А я вас, вроде бы, поняла. Мне идея нравится. Но я рассказ читала, как рассказ, как фантастику. И мне стало обидно за ученых - все они понимают. Дяди не дураки. И последствия просчитывают. На крупные суперкомпьютерные конференции, во всяком случае, футурологов приглашают, и обсуждают, бурно, хоть и не очень серьезно. :)
Надо было мне просто на ваш рассказ смотреть, как на сатиру :) Но это не мой любимый жанр)) И тогда бы я лишилась такой увлекательной беседы - про НейроНЕТ, например, я не знала, очень интересно.
6. *2016/10/25 15:46
[ответить]
фоточки, котики... На чем растет ребенок, а? :)
Понимаете... Проблема серьезная, очень серьезная. Но в реальности все обстоит именно так, как я написал. НЕ ХОТЯТ ВИДЕТЬ. То есть да - теоретически, когда-нибудь, возможно, не на нашей планете... Кто-то, наоборот, очень хочет и ждет. Я же говорю: программы принимают. Один НейроНЕТ чего стоит. Коммутация мозга с Сетью. И нейросети в Сеть подсаживают, и о последствиях не думают. Был проект - замечательный просто проект! - создать простенькую нейросеть и запустить ее в Интернет для свободной эволюции. Проект был реализован. То есть "это" сделали. Там была игра, пользователь получал "заготовку", развивал ее локально в игровом режиме, потом публиковал готовый результат в Сети. предполагалось, что ИИ эволюционирует в полноценный интеллект. И будет использоваться, например, для организации трафика в нагруженный сайтах. Пользователей-игроков были тясячи. Вот это дураки придумали или нет? Проект заглох, сущности в сети остались, прошло уже лет 15. Что из них выросло, выросло ли вообще - никто не знает.
ИИ, элементы ИИ, используются в контекстной рекламе, в Гугл-поиске, в Maven... Эти системы занимаются тем, что формируют "контекст пользователя", персональную среду для пользователя исходя из его вопросов (запросов). Конструируют персональный виртуальный мирок, используя на полную последние достижения психологии, социологии, анализа текстов... И самообучаются. И тоже, вроде, не дураки сделали. IBM, например. Google тот же самый.
Строго говоря об потенциальной опасности связки Интернет+ИИ сказал Хокинг года два назад. Над ним не посмеялись, все-таки авторитет. Но и всерьез не особо приняли. И тема заглохла. Да фантасты, режиссеры на ней спекулируют, но не более. Матрица там, Трон... Терминатор опять же. А больше - никто. Вы посмотрите нашу программу технологического развития России до 30-го года. Создание сети беспилотных грузоперевозок. Автомобили-корабли. Создание Нейро-НЕТ. сознание Энерго-Нет, умной электросети. Интернет вещей.
"Нейроне́т (англ. NeuroNet, NeuroWeb, Brainet) или Web 4.0 - один из предполагаемых этапов развития Всемирной паутины, в котором взаимодействие участников (людей, животных, интеллектуальных агентов) будет осуществляться на принципах нейрокоммуникаций⇨. По прогнозам, должен заменить собою Web 3.0 приблизительно в 2030-2040 годах⇨. Один из ключевых рынков, выбранных для развития в рамках российской Национальной технологической инициативы."
Думаете, там есть хоть слово о последствиях? Хоть кто-то (кроме Хокинга) серьезно предостерегал против таких темпов развития? Нейрокоммуникация людей с "интеллектуальными агентами" - записано в правительственной программе! А Вы говорите - "достойный оппонент". Знаете, на что это похоже?
Когда американцы собирались взорвать свою первую атомную бомбу, была в ходу теория. Расчеты показывали, что при таком взрыве есть вероятность цепной реакции всей атмосферы Земли. То есть Земля лишиться атмосферы. Так математически выходило. Ну и ученые здорово засомневались - а надо ли пробовать. Тогда американский генерал, который курировал проект, сказал: "взрывайте! Под мою ответственность!". И взорвали. И не возразили. Зато с тех пор мы живем в совсем другом мире, спасибо генералу.
"Сильный ИИ" по прогнозам будет к 2030 году. Сверхразум - к 2060. Я думаю, что быстрее. Я думаю, что "сильный ИИ" - уже.
>>5.Тадер Орди
>>>4.Голышев Георгий
>> Понимаете, это не просто пугалки и страшилки. Вся эта ерунда радостно заложена в правительственные программы, в техническое развитие страны. Это у нас - а у них ничего не заложено, просто реализуется, без всяких программ.
>
>Понимаю. И про то, что ограничения ничего сдержат - тоже понимаю. Ведь это все примеры - про изолированного робота, про сущность не столь глобальную, как интернет. Я эти примеры привела для того, чтобы доказать - тема на слуху, невозможно представить себе ситуацию, когда диссертационный совет в ответ на вопрос о грядущих последствиях что-то блеет про виртуальное пространство и Бога. Возможно, один-два глухослепых дурака и найдется, но не все :)
>Вы могли бы противопоставить своему хаму с регалиями хотя бы одного достойного оппонента. Например, докладчика. Раз он такую штуку сделал, он, наверное, все же не дурак. ;-)
>
>
>Тема зарождения сознания в интернете - действительно очень, очень интересная. Но вот приведенная вами интерпретация не кажется мне убедительной. Совсем.
>
>И философ, раз уж он такой умный (единственный!), почему предлагает докладчика просто расстрелять? Ведь кому как ни ему - философу, знакомому с историей науки, должно быть известно, что такие вещи в одиночку не делаются. Что ваш докладчик стоит на плечах гигантов и уже созревших идей, и возможно, где-то на другом конце света на схожем технологическом уровне кто-то уже спокойненько выпускает в сеть новый вирус ;)
>
>
>Вы у Дьяченко "Цифровой" читали? Рекомендую. Там такая информационная сущность... Убедительная.
>
> А еще я могу предложить идейку насчет того, как будет выглядеть (очень в общих чертах) психика (если это слово можно применить) нашего супер-мозга. Человек развивается от вопросов. Дети задают вопросы - так они познают мир, развиваются. Наша наука - искусство вопросов. Сначала вопрос - потом мы ищем ответ.
> Интернет - универсальное средство ответов. Он растет от ответов. Развивается ответами. Нам это сложно представить, но можно постараться. Представьте ребенка, который не спрашивает, а отвечает.
>А мы атакуем его информационным спамом. Он пытается понять, что к чему - а мы в него - фоточки за выходные ;-)
>Еще мне очень нравятся информационные сущности у Питера Уоттса "Ложная слепота".
5. *2016/10/25 13:41
[ответить]
>>4.Голышев Георгий
> Понимаете, это не просто пугалки и страшилки. Вся эта ерунда радостно заложена в правительственные программы, в техническое развитие страны. Это у нас - а у них ничего не заложено, просто реализуется, без всяких программ.
Понимаю. И про то, что ограничения ничего сдержат - тоже понимаю. Ведь это все примеры - про изолированного робота, про сущность не столь глобальную, как интернет. Я эти примеры привела для того, чтобы доказать - тема на слуху, невозможно представить себе ситуацию, когда диссертационный совет в ответ на вопрос о грядущих последствиях что-то блеет про виртуальное пространство и Бога. Возможно, один-два глухослепых дурака и найдется, но не все :)
Вы могли бы противопоставить своему хаму с регалиями хотя бы одного достойного оппонента. Например, докладчика. Раз он такую штуку сделал, он, наверное, все же не дурак. ;-)
Тема зарождения сознания в интернете - действительно очень, очень интересная. Но вот приведенная вами интерпретация не кажется мне убедительной. Совсем.
И философ, раз уж он такой умный (единственный!), почему предлагает докладчика просто расстрелять? Ведь кому как ни ему - философу, знакомому с историей науки, должно быть известно, что такие вещи в одиночку не делаются. Что ваш докладчик стоит на плечах гигантов и уже созревших идей, и возможно, где-то на другом конце света на схожем технологическом уровне кто-то уже спокойненько выпускает в сеть новый вирус ;)
Вы у Дьяченко "Цифровой" читали? Рекомендую. Там такая информационная сущность... Убедительная.
А еще я могу предложить идейку насчет того, как будет выглядеть (очень в общих чертах) психика (если это слово можно применить) нашего супер-мозга. Человек развивается от вопросов. Дети задают вопросы - так они познают мир, развиваются. Наша наука - искусство вопросов. Сначала вопрос - потом мы ищем ответ.
Интернет - универсальное средство ответов. Он растет от ответов. Развивается ответами. Нам это сложно представить, но можно постараться. Представьте ребенка, который не спрашивает, а отвечает.
А мы атакуем его информационным спамом. Он пытается понять, что к чему - а мы в него - фоточки за выходные ;-)
Еще мне очень нравятся информационные сущности у Питера Уоттса "Ложная слепота".
4. *2016/10/25 12:57
[ответить]
Тема не новая - я согласен. Актуальная - тоже согласен. Вообще, знаете ли, я ничего не придумываю, я просто компилирую, суммирую.
Хотя, надо сказать, этот вот рассказик я положил в Сеть примерно за полгода до выступления по этому поводу Хокинга ;)
Дело тут совсем не в оригинальности идеи. И ключевая фраза всего рассказа: "...(как говорят действительно умные люди) и так находился в стадии осознания себя личностью". Да, так считают ученые, не фантасты и не популисты. Интернет как единый организм, как супер-мозг, в данный момент находится на уровне интеллекта двухлетнего ребенка, то есть в стадии осознавания себя личностью. Так считают психологи. Это не фантастика, это реальность.
Ну да, никто вроде не видел и не слышал - но это как тот суслик. Не видели - а он есть. Просто не хотим замечать, вот и все. Ну, не может этого быть - значит, этого нет.
Сделать в этой ситуации ничего нельзя - остается только смеяться.
Хотя насчет новизны идеи... Тут тоже можно поспорить. Конечно, я говорил на эту тему, прежде чем написать. И конечно, я говорил о том, что человечество наконец-то создало себе Бога. Самого настоящего, всемогущего, бессмертного и материального. Люди - ученые - начинают смеяться в ответ, крутить пальцем у виска... А я начинаю смеяться над ними.
И дело тут не в "самовоспроизводстве", дело тут в неуничтожаемости. Это одна из современных научных философских теорий, правда, слегка перевернутая. В оригинале: "познанваемым считается только то, что мы можем уничтожить". Или: "познанаваемым считается только то, что мы можем создать". По-сути это одно и тоже.
Соответственно, Интернет уже сейчас нам не подконтролен, и нами не познаваем. Ну, как раз об этом говорил Хокинг.
Ограничения? Я Вас умоляю! Это идеалистическая ерунда. Какие ограничения, кто их туда закладывал, Вы о чем? Три закона роботов? Да никогда они работать не будут, все это фикция. У нас уже есть боевые роботы, полу-робототизированные беспилотники. Кроме того - и вот об этом как раз писали все, кому не лень - как можно заложить в роботов, в ИИ, моральные установки, если мы сами их не можем сформулировать? Ну вот хотя бы модная в последние пару лет дилемма: Вы едете на поезде, на паровозе, у вас сломалось управление, нет тормозов. Но вы можете управлять стрелкой. Перед вами два пути: на одном некий злоумышленник привязал к рельсам 10 человек. На втором - троих. Но это ваши отец, мать и ребенок. Стрелкой вы можете управлять, и вы вправе выбрать, на какой путь свернуть, кого раздавить.
Как Вы думаете, можно алгоритмизировать решение? И заложить его в программу ИИ?
Вы думаете, что мы как-то можем ограничить Интернет? Как? Никак! Пылесос - возможно, пока он не является частью Интернета. Но у нас на подходе "Интернет Вещей".
Ну вот Вам опять же примерчик: аналитики очень радуются, что автомашины Тесла (электромобили) имеют функцию автоматического обновления софта, без ведома владельца. То есть - ну понятно, да? Аналитики радуются потому, что "полноценный автопилот" (то есть беспилотное управление авто) у владельцев Тесла появится в уже купленной технике. Неожиданно. Утром Вы встаете - а машина едет сама, без водителя. Просто компания обновила софт, и все.
Понимаете, это не просто пугалки и страшилки. Вся эта ерунда радостно заложена в правительственные программы, в техническое развитие страны. Это у нас - а у них ничего не заложено, просто реализуется, без всяких программ.
Ну да, остается только ерничать и шутить. Хотя нет, конечно, не только. Человек тоже развивается, и, если так уж разобраться, этот самый созданный нами супер-организм нам не враг и не конкурент. Скорее что-то вроде муравьиной матки. Но это уже тема другого рассказа (если я соберусь написать раньше, чем оно устареет ;))
А еще я могу предложить идейку насчет того, как будет выглядеть (очень в общих чертах) психика (если это слово можно применить) нашего супер-мозга. Человек развивается от вопросов. Дети задают вопросы - так они познают мир, развиваются. Наша наука - искусство вопросов. Сначала вопрос - потом мы ищем ответ.
Интернет - универсальное средство ответов. Он растет от ответов. Развивается ответами. Нам это сложно представить, но можно постараться. Представьте ребенка, который не спрашивает, а отвечает.
>>3.Тадер Орди
>Любопытная вещица. И в очередном витке развития ИИ опять актуальная, но действительно, сооовсем не оригинальная.
>Постановка яркая, почти театральная.
>
>Но, если честно, выглядит как кино про зомби, в котором никто-никто никогда не видел/не читал/не слышал ничего про восставших мертвецов.
>
>Этические вопросы связанные с ИИ; формулировка, что как только будет создан самовоспроизводящийся и самообучающийся ИИ, ему уже никто не помешает, собственно, воспроизводиться и обучаться - уже давно витает в кругах вполне научных. Потенциальные проблемы знакомы каждому школьнику с небезызвестного Азимова.
>Да что там - я буквально в этом году была на конференции по суперкомпьютерам, где вопрос этики и последствий потенциального создания ИИ был легонько поднят и легонько в кулуарах обсуждался. Не, не совсем серьезно, конечно. Шутки и болтологии ради. Но чтоб не забывать. Серьезно, возможно, этот вопрос как раз философы рассматривают.
>По этому поводу целый консорциум существует:
>
>
>Да у меня на роботе пылесосе написаны ограничения, что он вреда человеку не причинит и любую команду исполнит! А тут человек ИИ написал и об ограничениях не подумал? И весь совет не подумал? :-)
>
>
>И поэтому ситуация, в которой специалисты, занимающиеся ИИ, сидят и баранами смотрят на хама, который единственный задумался о последствиях, представляется мне малость неубедительной. :-)
>
>ИМХО, конечно :-)
>Стилистические мысли, чистое ИМХО:
>Эти молчали особенно пронзительно. - вот это особенно понравилось :-)
>
>о величавый ток доклада. Человек в великолепном черном - величавый/великолепно рядом, не смотрится.
>
> Человек в великолепном черном костюме, в ослепительной белой рубашке с невообразимым галстуком, повязанном невообразимом же узлом, и приколотом явно золотой запонкой с явно бриллиантом (и явно не малым), худощавый человек с черными волосами, забранными в конский хвост (и перехваченные другой явно золотой запонкой) совершенно очевидно наслаждался произведенным эффектом. - очень сложно читается.
>
>3-4 человека.. - числительные лучше писать словами в художественном тексте.
3. *2016/10/25 08:52
[ответить]
Любопытная вещица. И в очередном витке развития ИИ опять актуальная, но действительно, сооовсем не оригинальная.
Постановка яркая, почти театральная.
Но, если честно, выглядит как кино про зомби, в котором никто-никто никогда не видел/не читал/не слышал ничего про восставших мертвецов.
Этические вопросы связанные с ИИ; формулировка, что как только будет создан самовоспроизводящийся и самообучающийся ИИ, ему уже никто не помешает, собственно, воспроизводиться и обучаться - уже давно витает в кругах вполне научных. Потенциальные проблемы знакомы каждому школьнику с небезызвестного Азимова.
Да что там - я буквально в этом году была на конференции по суперкомпьютерам, где вопрос этики и последствий потенциального создания ИИ был легонько поднят и легонько в кулуарах обсуждался. Не, не совсем серьезно, конечно. Шутки и болтологии ради. Но чтоб не забывать. Серьезно, возможно, этот вопрос как раз философы рассматривают.
По этому поводу целый консорциум существует:
Да у меня на роботе пылесосе написаны ограничения, что он вреда человеку не причинит и любую команду исполнит! А тут человек ИИ написал и об ограничениях не подумал? И весь совет не подумал? :-)
И поэтому ситуация, в которой специалисты, занимающиеся ИИ, сидят и баранами смотрят на хама, который единственный задумался о последствиях, представляется мне малость неубедительной. :-)
ИМХО, конечно :-)
Стилистические мысли, чистое ИМХО: Эти молчали особенно пронзительно. - вот это особенно понравилось :-)
о величавый ток доклада. Человек в великолепном черном - величавый/великолепно рядом, не смотрится.
Человек в великолепном черном костюме, в ослепительной белой рубашке с невообразимым галстуком, повязанном невообразимом же узлом, и приколотом явно золотой запонкой с явно бриллиантом (и явно не малым), худощавый человек с черными волосами, забранными в конский хвост (и перехваченные другой явно золотой запонкой) совершенно очевидно наслаждался произведенным эффектом. - очень сложно читается.
3-4 человека.. - числительные лучше писать словами в художественном тексте.
2. *2016/10/24 15:36
[ответить]
Иэх, я так и знал, что надо было грохнуть кого-нибудь. Либо докладчика, либо председателя, либо пару академиков.
Жалко их стало, увы. А надо было.
>>1.Курамшин Артём Шамильевич
>В рассказе не хватает действия и персонажей. По сути, статья в тезисной форме, да и идея далека от оригинальности.
>Художественные способности автора, умение выплетать словесные узоры, впрочем, сомнений не вызывают.
>Но данный рассказ пока, увы, не выше среднего уровня.
1. * (artem-sailer@yandex.ru) 2016/10/24 06:51
[ответить]
В рассказе не хватает действия и персонажей. По сути, статья в тезисной форме, да и идея далека от оригинальности.
Художественные способности автора, умение выплетать словесные узоры, впрочем, сомнений не вызывают.
Но данный рассказ пока, увы, не выше среднего уровня.