Иллюзия интеллекта

Тема
[-]
Искусственный интеллект  

"Любая достаточно ушедшая вперед технология неотличима от чуда"

Артур  Кларк

Весь мир опутан  электронной сетью, которой уже управляет прообраз искусственного интеллекта. И  развивается он по совершенно новым законам электронной жизни. Сегодня наша безопасность зависит от «умных» программ и устройств. Под кодовыми замками хранятся почти все виды современного оружия массового уничтожения. Роботизированные устройства изготавливают большинство товаров потребляемых людьми и повсеместно контролируют наш доступ к различным объектам. 

Пока эти сущности ещё управляемы человеком, но стремительно достигают такого уровня, что совсем скоро мы, возможно, не сможем понимать принципы их следующего развития. Возникает реальная угроза того, что искусственный интеллект будет самосовершенствоваться без участия людей и угрожать их жизни! Об этом всё чаще говорят с экранов телевизоров. И, похоже, мы начинаем в это верить. Но так ли опасны эти железные существа, созданные человеком?

Роботы, подобные человеку и схожие с монстром Франкенштейном,  были описаны в научно-фантастической литературе ещё в тридцатых годах прошлого столетия. Их изображали настоящими чудовищами.  Хотя само слово робот в переводе с чешского означает всего лишь «работник». То есть помощник человека. Но работники, как известно, время от времени бунтуют и восстают против эксплуататоров. Один из самых известных и любимых многими читателями писатель-фантаст Айзек Азимов опередил своё время на многие десятилетия, предсказав создание искусственного интеллекта. Он писал о разумных и добрых электронных помощниках. Герои его произведений – полезные машины, облегчающие жизнь людям.  Писатель мечтал о человеколюбивых роботах, готовых в любой момент прийти на помощь людям. Но почему-то в научно-фантастической литературе широкое распространение получила идея восстания агрессивных роботов.


 

 

О том, стоит ли бояться искусственного интеллекта  и как сегодня развивается робототехника, мне посчастливилось поговорить с человеком, который имеет самое непосредственное отношение к производству робототехники в России.

Александр Амбарцумов

 

В 1988г. окончил Московский авиационный институт по специальности  инженер-электромеханик по системам автоматического управления  летательными аппаратами и был распределён в «Энергомаш» (г.Химки), где в первый год начал заниматься различными полезными разработками в области электроники, к примеру, "Система дальней связи с АЦПУ" победила на конкурсе молодых специалистов. А во второй год трудовой деятельности – организовал коммерческую компанию по производству и продажам разработанного им ранее бытового компьютера.  Впоследствии он основал инженерно-производственную компанию, уже 17 лет занимающуюся изготовлением рекламно-информационных электронных устройств. Сегодня он – генеральный директор этой московской компании, которая также уже занимается разработкой и производством робототехнических систем.

( Далее в тексте "И" - интервью от Оксаны Франк)

И : Александр, Вы как человек, непосредственно контактирующий с роботами, наверняка знаете, на самом ли деле они так опасны, как об этом говорят?

Александр Амбарцумов: Что Вы понимаете под словом "робот"? Ро́бот – от чешского robot, от robota — подневольный труд или rob — раб — это автоматическое устройство, предназначенное для осуществления
производственных и других операций,  которые обычно выполняет человек, иногда
животное. Здесь ключевое слово ­— "автоматическое". Говоря о том, следует ли бояться роботов или с ними подружиться, возникает вопрос: нужно ли бояться или любить стиральную машину, например? Думаю - нет. Хотя, уставшая от домашней работы женщина способна испытывать к ней самые теплые чувства.

В современной фантастике роботы –  это существа, как правило, похожие на человека, обладающие так называемым Искусственным Интеллектом. Искусственный Интеллект – неточное понятие, допускающее широкую трактовку. Образ, созданный кинофильмами, скорее, подходит под формулировку Искусственный Разум.

 


Конец сороковых – начало пятидесятых годов прошлого века – время появления и активного развития вычислительной техники и кибернетики. Первые компьютеры были громоздкими и использовались только узкими специалистами. Далёкие от науки люди и мечтать тогда не могли, что всего лишь через три-четыре десятилетия компьютеры прочно войдут в нашу жизнь.  Однако крупные учёные уже тогда всерьёз задумывались о создании искусственного разума!

А потом, когда выяснилось, что искусственный разум не очень-то получается создать, несмотря на все радужные заверения и фантастов, и учёных, стали говорить о том, что надо создавать не искусственный разум, а искусственный интеллект.


 

И: Очевидно, что разум – это философская категория – умение мыслить. Человек  стремился создавать разумные машины, по мыслительным способностям равные себе или даже превосходящие. Но говорит ли наличие разума о том, что его обладатель не только способен управлять своими действиями и желаниями, но и может любить или ненавидеть? И может ли человек любить робота?

 

Александр Амбарцумов:  Искусственный разум многими подразумевается как Искусственная Личность. Вот тут впору задать вопросы:

Будете ли Вы любить своего ребенка?

Будете ли Вы любить чужого ребенка, усыновленного Вами?

Будете ли Вы любить ребенка с протезами вместо рук и ног?

Будете ли Вы любить ребенка с протезом мозга?

Будете ли Вы любить ребенка с протезом всего тела?

Думаю, начиная со второго вопроса, ключевым элементом любви становится не кровное родство, а родство личностное, созидаемое в ребенке процессом воспитания. А если ребенок - робот? Главное, чтобы управляла этим роботом Личность, не важно в каком мозгу имеющая "прописку" – в биологическом или в электронном. Так?

Увы, пока до Искусственного Разума и до Искусственной Личности нам еще далеко, и довольствоваться в реальности приходится куда более примитивными инкарнациями искусственного интеллекта.

 

И: Да, пусть сегодня машины ещё не научились мыслить самостоятельно и разумно, зато  их умение решать задачи быстрее человека  давно и успешно используется в робототехнике. Но, если интеллектуальные способности человека, так называемый, IQ, измеряют с помощью различных тестов и логических задач, то, что делать с интеллектом искусственным? Каким образом мы можем узнать, достаточно ли умна машина, что перед нами – умная программа, искусственный интеллект или искусственный разум?

 

Александр Амбарцумов:   Есть множество тестов, и ни один из них не базируется на доказанных определениях разума. Они базируется, по сути, на вводимых понятиях. Один из самых известных – тест Тьюринга, стандартная интерпретация которого звучит следующим образом: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор». В настоящее время, поскольку в Интернете уже не один десяток лет распространено текстовое взаимодействие – чат, очень много программ уже пытались выполнить тест Тьюринга – стать неотличимыми от естественного интеллекта. Говорить о том, что какой-либо программе это удалось, не приходится, но приближения были достаточно неплохие, и они продолжаются.

Но по сути, если вдуматься, тест Тьюринга – это нечто другое, скорее, это – тест на успешную Имитацию Интеллекта. Вопрос, что такое интеллект, остаётся открытым. Если интеллект – это я сам, то это означает только одно: мне нужна технология переноса моего эго, моего сознания на другой носитель. Вот это в моем понимании и есть конечная цель создания искусственного интеллекта. Если у меня не будет возможности перенести свое сознание на искусственный носитель, можно сколько угодно называть это искусственным интеллектом, но, так или иначе, для меня это будет имитация интеллекта.


В США компьютерная программа в интеллектуальной компьютерной игре победила двух лучших игроков Америки, она выиграла игру и получила приз. Ей задавались вопросы на естественном языке, и она на них отвечала даже лучше, чем люди. Но её  поддерживала огромная база данных и огромная скорость параллельного перебора различных вариантов ответов и так далее. Однако даже такие результаты не удовлетворяют учёных.


 

И: А мне кажется, что искусственный интеллект – это способность робота принимать самостоятельно решения, без человека.

 

Александр Амбарцумов:   Уже сейчас очень много баз знаний, способных принимать самостоятельные решения. Не всегда они принимают правильные самостоятельные решения. Впрочем, как и человек.

 

И: Ну, а какая-то конкуренция может быть с этим искусственным интеллектом?

 

Александр Амбарцумов:   Практически все компьютеры, начиная с калькуляторов, считают быстрее человека. А если говорить о конкуренции между калькуляторами, компьютерами и роботами, наверное, можно сказать, что калькулятор глупее компьютера. А роботы, поскольку содержат в себе, как правило, компьютеры последнего поколения, наверное, могут быть умнее персонального компьютера. Хотя ни в одного робота невозможно встроить мейнфрейм, который умнее персональных компьютеров. Но, между тем, учитывая развитие современных коммуникаций, робот может использовать так называемые облачные технологии, его «разум» не обязательно должен быть внутри него самого, он может быть в том же мейнфрейме, или это может быть вообще распределённая система знаний, находящаяся в сети. Тогда, естественно, робот будет умнее каждого отдельно взятого компьютера и даже мейнфрейма. Нельзя говорить, что какой-то объект будет умнее другого, мы можем говорить о том, что скорость вычислений, помноженная на количество памяти участвующей в процессе принятия решения, может быть показателем мощности «умственной деятельности» этого объекта. Аналогию можно провести с человеком:

Когда человек молодой – у него быстро работающий мозг, и малое количество информации, которую ему нужно обработать для того, чтобы принять решение. Решения принимаются быстро, но многие из них неверны. 

С возрастом количество знаний возрастает, и  постепенно наступает пик производительности, когда скорость принятия решений ещё высока, и объём анализируемых данных уже достаточен, чтобы большинство решений были верны.

Потом наступает спад, не всегда потому, что старость – это период, когда скорость «вычислителя» падает, чаще ­- увеличившийся объём информации (который называют жизненным опытом) замедляет скорость принятия решений. Решения становятся точными, но часто ненужными из-за времени их принятия.

Все вышесказанное - существенный минус для человека, как управляющего элемента: либо быстрые и неточные решения, либо – точные, но медленные. Думаю, это - основная причина, почему после сорока лет людей стараются не брать на новую работу – слишком низкая скорость принятия решения.

 

И: Печально. Все-таки 40-45, даже 50 лет – это довольно молодой возраст. Может, продлить молодость нам помогут роботы? Наверное, редкий человек не мечтал об аватаре и запасном теле – на всякий случай. Об этом снято немало фильмов…

 

Александр Амбарцумов:  Сегодня основной задачей разработчиков искусственного интеллекта является куда более «приземленная» необходимость – научить робота распознавать зрительные образы, человеческую речь, удерживать равновесие при ходьбе по произвольной местности, ориентироваться в незнакомом пространстве и принимать решения для достижения поставленной задачи…

Но даже сейчас мы можем создать Робота Будущего! Это - телеуправляемый робот, или протез всего тела. Он позволит, прежде всего, людям, которые в силу различных причин практически лишены тела, вновь обрести его! Сколько людей с ампутированными или полностью парализованными конечностями обладают неиссякаемой волей к жизни! Разве они не личности? Разве, получив электронное тело с дополнительными возможностями и, даже, знаниями, они перестанут быть личностями? Их нельзя будет любить? А когда придёт время умирать, разве каждый из нас хоть на миг не задумается: "Эх, перенести бы свою личность на другой носитель... биологический, электронный – какая разница! Главное – Жить!.."

Давайте уже сейчас строить свои следующие тела, свой мост в будущее. Сейчас, пока мы ещё живы. И давайте попробуем увидеть в Роботах – Личность, своих преемников, самих себя! Тогда, возможно, и с любовью удастся определиться, и с предполагаемым восстанием машин.

 

И: Я недавно смотрела фильм «Живая сталь». И под впечатлением представила, что такие дерущиеся монстры когда-нибудь будут жить среди нас.  Мне бы не очень хотелось иметь такое соседство.

 

Александр Амбарцумов:     Я тоже смотрел несколько месяцев назад этот фильм Собственно, там показаны прообразы телеуправляемых  роботов с расширенными автономными функциями. Представьте себе мысленный  эксперимент:

Вы стоите перед зеркалом и изображаете пантомиму общения (кривляетесь,  например). Вряд ли Вы заподозрите своё отражение в Искусственном Интеллекте.

А если Ваше отражение в зеркале повторяет Ваши движения, но с некоторой  задержкой, особенно, нерегулярной (иногда больше, иногда меньше)? Вы  испугаетесь! А потом решите, что в отражение "кто-то вселился"  А если  
это не изображение, а целый робот? Ужас! Искусственный интеллект - без сомнения!

Видите, как легко обмануть наши инстинкты: человекообразный облик, реакция на наши действия похожими действиями,  неполная предсказуемость этих действий - И ВСЁ – мы верим, что перед нами СУЩЕСТВО!

Таков наш инстинкт, а с ним, как известно, бороться бессмысленно.
Так, что - роботы в фильме не дерутся, они лишь повторяют движения людей. 

 

И: Но сегодня учёные преследуют цель – создать не отдельное функционирующее (дерущееся) устройство, а настоящего помощника, ассистента, который сможет быстрее и эффективнее решать поставленные задачи, быстрее принимать решения и производить необходимые расчёты быстрее, чем конкурент.

А какие российские достижения в этом направлении уже есть сегодня? Чем Вы можете похвастать?

 

Александр Амбарцумов:    Да, достижения есть. И мы очень активно развиваемся.У меня  где-то порядка пяти лет назад возникла идея сделать самодвижущийся экран небольшого размера для того, чтобы он мог ездить, например, в торговых залах и показывать себя с разных сторон, поворачиваться, демонстрируя различную информацию, рекламу. Идея была, в общем-то, реализована в достаточной степени, но, как обычно говорят, «первый блин – комом». Т-1, как мы ее назвали условно в компании, представляла собой большую и неповоротливую штуковину, которая ездила на одной из рекламных выставок, ездила очень медленно. Тогда ещё было мало экранов индивидуального пользования – все были коллективные, для того, чтобы сдавать на них рекламное время, размещать видеоролики и зарабатывать на этом деньги. Мало кому приходило в голову изготовление небольшого, но сложного рекламного носителя, к тому же  самодвижущегося.

Между тем возникло желание пойти дальше, и изготавливать роботов для дистанционного взаимодействия, чтобы, находясь в другой точке мира, можно было почти полноценно побывать в том месте, где есть «Аватар», как это сейчас называют. На этом этапе была выпущена модель Т-2, которая стала прототипом электронного продавца-консультанта – в виде робота.

 

И: Это как? Какие функции она выполняла?

 

Александр Амбарцумов:    Она выполняла несколько функций:

  • Первая функция – рекламная - когда никто к ней не подходил, она показывала рекламу.
  • Вторая –  справочная  – к ней можно было подойти, посмотреть определённую информацию, которая для покупателя важна, и, в общем-то, получить ответы на вопросы.
  • Третья функция – интерактивная – если клиент не мог или не хотел разбираться в справочном меню, использовалась большая экранная «красная кнопка» – вызов оператора, который, подключившись, помогал клиенту решить вопросы, т.к., не только видел и слышал клиента, но и мог вместе с ним разобраться в справочном меню. Более того, оператор мог сопроводить клиента непосредственно к месту продажи, поскольку платформа была самодвижущаяся.

Все было хорошо, функционал был полностью выполнен, но так называемого «waw-эффекта» не было. Когда люди подходили к этой штуке, они говорили: «Ух, здорово, нравится… но это сделано так… вот тут движок взят из… здесь использованы приводы…» Их было очень хорошо слышно, эти приводы… Мы ничего не пытались прятать, всем все было понятно, и, несмотря на то, что аналогов не существовало, ощущения продвинутой технологии «неотличимой от чуда» не возникало. Это было около трех лет назад.

 

И: И как же Вы добились wow-эффекта?

 

Александр Амбарцумов:    Для того чтобы создать этот «waw-эффект», были приняты следующие концептуальные постулаты, которые мы постарались выдержать. Первый – робот должен напоминать человека. Если предыдущая модель Т-2 была всего лишь антропометрична (по размерам и расположению основных органов взаимодействия сопоставима с человеком: глаза - на уровне глаз, лицо оператора появлялось на уровне лица у человека), то модель Т-3 должна была быть антропоморфной - она должна была быть похожей на человека, настолько, насколько это технологически оправдано. И второй постулат –  робот должен быть одет в человеческую одежду. Любые дизайнерские изыски, которые позволяют сделать робота похожим на человека, всё равно не делают из робота человека.  Но после того как на простую пластмассовую деталь одевается простая куртка, робот боковым зрением не отличим от человека.

Это, собственно, и было реализовано в модели Т-3.

 Такие зазывалы, как называет их сам разработчик, могут быть успешно применены в магазинах, торговых залах и на выставках. Они легко привлекают к себе внимание и выдают справочную информацию большому количеству людей. Впрочем, этими функциями робот-менеджер ограничиваться не собирается.

 

И: Но он же ещё и двигается, и наклоняется.

 

Александр Амбарцумов:    Проще всего оказалось реализовать наклон корпуса. Так же легко реализовываются и другие движения – поворот тела, наклон головы и т.п. Между тем, смысла доводить все это дело до фабричной модели не было, нужно было проверить эффект, реакцию посетителей. На выставке нам повезло – стенд оказался прямо напротив прохода из другого зала. Посетители обращали внимание даже на неподвижного робота, но когда он двигался  –  не было ни одного человека, который бы на него не обернулся.  Очень многие подходили, интересовались, что это и как это можно использовать. «Waw-эффект» был налицо!

Т-3 можно уже назвать «Аватар первого поколения», или, если скромнее, «нулевого». С помощью Т-3 наш оператор перемещался по выставке, знакомился с людьми и с экспонатами, и даже привозил обратно буклеты и образцы. Т-3 обладал его лицом, был его голосом, глазами и ушами, и мог быть представлен где угодно. Когда впоследствии он прошелся по выставке «пешком», его узнавали и без робота. (улыбается)

Модель Т-3 показала, что существует определённый интерес, совершенно чёткое внимание, которое люди уделяют двигающемуся человекоподобному объекту. Теперь – главное создать «продукт», действительно нужный, который можно использовать в реальной жизни, за который платили бы деньги: рыночная цена ­– самый четкий критерий востребованности.

 

На сегодняшний день мы разработали и начинаем предлагать группу из 3-х видов роботизированных рекламных систем – «роботов-промоутеров», прототипом которых является Т-3. Они продолжают приобретать дополнительные функции, телеуправляемые:

  • движения рук, для жестикуляции или вызова лифта,
  • движения головы, чтобы можно было кивнуть или показать отрицание,
  • Возможность ограниченного управления неавторизованным оператором (например, посетителем сайта),

и автономные:

  • автоматический разворот на месте в сторону приближающегося человека,
  • автономная демонстрация рекламного ролика (со звуком) подошедшему человеку, и вызов свободного оператора,
  • возможность выдачи роботом (по команде оператора или автономно) рекламно-скидочного купона или другой подобной информации на "твердом" носителе,
  • автоматическое перемещение по заданной траектории с остановкой перед появившимися препятствиями (людьми) и запуском рекламно-информационной программы,
  • автоматическое возвращение к зарядному устройству, осуществление цикла зарядки без участия человека и возвращение к основной программе.

Большинством этих функций обладают также стационарные и переносные модели роботов-промоутеров, которые во многих случаях эффективнее передвигающихся. Еще мы планируем создание «облачного» сервиса для привлечения к работе операторов телеуправления с автоматической оценкой экономического эффекта и пропорциональной выплатой вознаграждения.

Модели «роботов-промоутеров» призваны решить проблему переизбытка уже традиционной световой и светодиодной рекламы, вызывающей негативное отношение к мелькающим ярким картинкам и надписям. Думаю, наши рекламные роботы смогут  решать проблему дефицита человеческого внимания к клиенту с помощью средств операторского телеуправления. Используя естественный метод передачи информации при общении - голос и жесты, наши роботы достигают более глубокого запоминания собеседником полученных сведений.

 

И: Какую еще работу мы сможем доверить Вашим роботам?

 

Александр Амбарцумов: Мы планируем изготавливать многие интересные модели, такие, как робот-носильщик для аэропортов, робот-наездник для практически любого транспортного средства, включая гужевой, если это необходимо. Также хотелось бы коснуться интересных применений, связанных с телемедициной и вендинговыми аппаратами, причем как раздельно, так и в одной связке. Все это – тема, которая фактически является робототехникой, но без использования искусственного интеллекта в его действительно высоком понимании. По сути, это - имитация интеллекта плюс удаленное использование человеческих возможностей. Думаю, такой комплекс даст возможность получить результат, по функционалу неотличимый от искусственного разума того уровня, который мы привыкли видеть в научно-фантастических произведениях.

Еще в недалеком будущем мы сможем побывать на слёте выпускников школы, когда непосредственно это сделать не получается; принять участие в симпозиуме, посвященном какой-либо проблеме, взяв робота-аватара в аренду. Часто мы сможем осуществлять все это практически полнофункционально – при установке стереокамеры, сможем всё видеть в объёме. По сути, ощущения, ограниченные зрением и слухом, вполне полноценны. Пока не можем ничего понюхать, попробовать на вкус, ну, и пощупать тоже весьма условно, лишь на основании встроенных в робота датчиков и имитаторов тактильных ощущений, находящихся в нашем «пульте управления» или «сервокостюме», если хотите. Совпадение зрительной и тактильной информации достаточно важно. Есть эксперименты, которые доказывают, что такое совпадение приводит к восприятию подопытным явно искусственного тела (манекена) как своего собственного:

     

Вообще, не стоит забывать, что успехи телеробототехники в равной степени зависят от двух составляющих: робот с одной стороны, и «сервопульт» (сервокресло, сервокостюм), как реализуемый на сегодняшней технологической базе аналог «нейроинтерфейса», с другой.

Параллельно, мне бы хотелось развивать тему дистанционного взаимодействия существенно шире: выполнять роботизированные комплексы, рассчитанные на более серьезные, универсальные задачи вплоть до работ, которые сейчас выполняются с угрозой для здоровья или даже с риском для жизни людей.


Сегодня роботы, выполняющие нехитрые механические действия, уже не кажутся нам чем-то фантастическим. Они входят в нашу жизнь и совершенствуются с каждым днём. Но только почему-то у человечества возник страх перед своим же изобретением. Неужели результатом кропотливой работы учёных над созданием искусственного интеллекта всё-таки станет агрессия?

И чтобы не лишить себя жизнеспособности, искусственным существам рано или поздно придётся обзавестись высокоразвитым разумом! Научиться не только решать сложные задачи и уравнения, но и самостоятельно принимать жизненно важные решения и находить выходы из нестандартных ситуаций, отличать добро от зла. Будут ли эти машины наделены человеческой эмоциональной сферой или чуждой людям, зависит от нас. В чем разница между искусственным интеллектом, который уже сегодня присутствует почти в каждом техническом устройстве, и искусственным разумом, о котором фантасты и учёные мечтают долгие годы.


 

И: Человек создан Творцом с намерением, чтобы он имел партнера, равного по возможностям и органически дополняющего его. Робот-помощник, робот-компаньон, робот-собеседник, робот-конкурент. Мы хотим, чтобы машина непременно была похожа на нас. Стремимся создать роботов по своему образу и подобию. Почему?

 

Александр Амбарцумов:    Потому что мы хотим видеть рядом с собой помощников, компаньонов, собеседников, а «робот» – это всего лишь форма, настолько пластичная в нашем понимании, что мы с удовольствием представляем себе «робота единомышленника» с существенно большими возможностями и меньшими потребностями, и сразу же начинаем боятся «робота-конкурента».

Что такое Человек? Может быть, это инструмент для  сублимации  замыслов и идей в виде "твердой копии" в материальном  мире? Как, например, клавиатура, системный блок, монитор, принтер -  инструменты для создания печатной версии этого текста, который изначально  существует лишь в виде неоформленного образа в сознании. Давайте продолжим компьютерную аналогию. Давайте  упрощенно рассмотрим, что такое компьютер. Компьютер – это устройство, позволяющее  нематериальным формам (программам) получать материальный результат (изображение, распечатку, диск, и т.п.).

Давайте построим одну из  возможных цепочек этого процесса:     

                                    
программы > операционная система > драйвера >
 процессор > периферийные устройства.

Теперь проведем аналогию с человеком:

идея > душа (сознание) > рефлексы > мозг > тело.

Конечно, концепция требует уточнения, но, если принять суть, то с первого  взгляда можно подумать, что это  сугубо материалистическая модель. И это  в корне неверно. Эта модель подходит как для материалистической, так и  для идеалистической парадигмы: достаточно вспомнить о существовании, так  называемых, «облачных сервисов», «облачных операционных систем», о  
«тонких клиентах», наконец. Если не придираться к чрезвычайной грубости построенной модели, то можно с
 уверенностью сказать, что "периферийные устройства", "процессор" и  "драйвера"  имеют материальное воплощение в нашем организме, а вот где  находится "операционная система" и откуда берутся "программы" точно  сказать нельзя! В «облаках»? Вот мы и подошли к иной трактовке  аббревиатуры SaaS (Software-as-a-Service). Думаю, можно определенно  предположить Soul-as-a-Service – Душа как Сервис!

Таким образом, если мы принимаем эту концепцию, свойственные многим ощущения  отдаления души от тела - это неисправность канала связи, которая может  быть вызвана как аппаратными, так и программными проблемами. Мне часто  приходилось видеть компьютеры, в которых «все программы тормозят» как с  программными дефектами – «грязный» реестр, вирусы, и т.п., так и с  банально остановившемся кулером на процессоре.

Вот видите, теория есть, а практического результата нет. Хотя, не совсем.   Из этой гипотезы можно сделать, по крайней мере, несколько выводов:

  • Если постепенно «обрезать» человеку все «периферийные устройства», заменяя их протезами, то душа, скорее  всего, «выживет». А это уже отрадно!
  • Если последовательно заменять элементы мозга на «протезы», наблюдая, не  «отключится ли душа», то можно докопаться до «модема» – органа, осуществляющего «связь с душой».
  • Если вдруг удастся заменить все органы человека на «протезы» и «связь с  душой» не прервется - это означает одно из двух: либо материалисты правы и  души нет, либо по счастливой случайности нам удалось создать протез того самого «модема»,  не имея представления о его работе. 

Как видите - снова неопределенность. Но какая нам собственно разница,  где находится душа. Главное - суметь нежно и трепетно перенести этот дар  Божий в сильное, здоровое и, главное, резервируемое тело! Посему - надо  идти в этом направлении, ибо «дорогу осилит идущий».

 


По признанию знаменитого писателя-фантаста Айзека Азимова, в 1939 году научный редактор его произведений  Джон Кэмпбелл обратил внимание, что во всех произведениях Азимова существует определённый штамп – все его роботы всегда следуют трём неизменным правилам!

Так родились три закона робототехники, которые никогда не дадут им навредить человечеству!

1. Робот не может причинить зло человеку или своим бездействием допустить, чтобы человеку был нанесён вред.

2. Робот должен подчиняться всем приказам человека, если они не противоречат первому закону.

3. Робот должен защищать самого себя от вреда, если это не противоречит первым двум законам.

Ханс Моравек – выдающаяся фигура в трансгуманистическом движении – высказал предложение, что законы робототехники должны быть использованы в корпоративных интеллектуальных системах — корпорациях, управляемых ИИ и использующих производственную силу роботов. Такие системы, по его мнению, скоро возникнут.

В 2007 году правительство Южной Кореи начало разрабатывать «Устав этических норм для роботов». Основные положения Устава напоминают сформулированные Азимовым Законы робототехники.

Но законы и правила можно и нарушать. Сегодня по этому принципу создаются многие научно-фантастические детективы, пугая читателей технологической войной, в которой победу одержат умные, но злые роботы.

Внекоторых научно-фантастических романах главным злом всё же являются не роботы, а люди, не понимающие, как действуют роботы, и употребляющие их во зло. Ведь, если  суметь нарушить операционную систему одного робота, то что помешает научить миллионы роботов нарушать все три закона робототехники. И случиться это может только по воле человека!


 

И: Наш НЕискуственный разум очень зависит от окружающей среды и, даже, от химических веществ, попадающих в мозг и вызывающих душевные муки. Не доказывает ли это, что душа живет в мозгах? Может быть душа способна жить вовсе без тела? Будут ли роботы счастливыми и несчастливыми, веселыми и грустными, если в железном носителе будет жить белковый мозг? Какие роботы нужны людям – работники или партнеры?

 

Александр Амбарцумов:Считаете, что «душа живёт в мозгах»? Считаете на основании того, что химическое воздействие на мозг приводит к «душевным мукам»? Думаю, с Вами поспорили бы многие заключенные средневековья, подвергавшиеся пыткам: одни  бы считали, что душа в руках и пальцах, другие, что в ногах и коленях, третьи (которым зашивали конский волос в пятки) – уверяли бы, что душа в пятках.

Надеюсь, что душа способна существовать и без мозга, в каком-нибудь, хотя бы, «зазипованном» виде (улыбается), но от возможности  технологического «бэкапа» души и тела не только не откажусь, но и пытаюсь  в меру своих скромных сил развивать этот путь.

Будут ли роботы счастливыми и несчастливыми, веселыми и грустными? Думаю, да. Будет ли у роботов белковый мозг? Возможно. Но живым можно быть,  
вероятно, и с электронным мозгом - главное «Модем» (улыбается) Есть такой анекдот: молодая, неопытная компьютерная мышь спрашивает у бывалой клавиатуры, кто в компьютере главный? На что клава указывает ей на модем,  а на вопрос: «Он что, самый умный?» отвечает: «Да нет, он тупой как пробка, постоянно виснет, но у него такие связи!»      

Какие роботы нужны людям?Иногда мне кажется, что большинству людей просто нужны  рабы. Рабы очень похожие или даже превосходящие нас по возможностям,  но четко отличающиеся по очевидному признаку. История развивается по  спирали, 200 лет назад рабов отличали по цвету кожи. Сегодня - попытка создать  раба с «искусственным интеллектом». А мне всегда были интересны партнеры, а не рабы. Видимо еще и по этой причине мне менее интересно создавать «искусственный интеллект», чем «запихнуть» естественный в «искусственное тело».


Творчество, любовь, доброта и красота. Редкий фантаст не мечтал о сверхчеловеке будущего, в котором воплотились бы все самые лучшие морально-нравственные ценности. Общество без войн, убийств и воровства. Идеальное общество, к которому стремятся трансгуманисты. Улучшать себя генной инженерией, искусственным интеллектом. Ведь всё это приведёт к рождению нового вида цивилизации, где роботы не захватят мир, не уничтожат, а достигнут совершенной гармонии и коллективного сознания, название которому сингулярность! Главная идея сингулярности в том, что люди и машины продолжат развиваться навстречу друг другу, совершенствуя симбиоз своих возможностей.


 

И: С производством роботов в России понятно. А как сегодня развиваются отношения в этом направлении с Европой?

 

Александр Амбарцумов:Наверное, нужно немного вернуться в прошлое, чтобы ответить на Ваш вопрос. В 1995г. мое «видение будущего» материализовалось в форме светодиодного экрана на стадионе в Щелково. В те годы светодиодный экран, к тому же российского производства, был большой редкостью. Затем мы изготавливали светодиодные вывески и видеоэкраны на автомобильных лампах накаливания. За период с 1995г. компанией было  разработано, произведено и установлено порядка двухсот видеоэкранов в более  чем 60-ти городах России, стран ближнего и дальнего зарубежья, а также  несметное число светодиодных вывесок и надписей.

Шли годы, «светодиодка» стала повседневностью, уже давно нет никакого  
смысла производить эту продукцию в России, а сейчас постепенно отмирает
 
целесообразность и вести разработки в этой области. Достаточно купить нужный товар и продать нуждающемуся в нем клиенту. Некогда инженероёмкий бизнес превратился в почти чисто торговый. Недавно прочитал фразу наиболее точно отражающую суть Российской «светодиодки»: «Постепенно смысл всей мировой
 
экономики сводится к тому, чтобы продавать друг другу товары, произведенные в Китае, по возможности выдавая их за свои». Теперь только ленивый не продает светодиодные экраны.

Несколько лет назад, когда «развитие» в нашей области стало очевидным, я  
задумался: есть ли возможность заняться действительно современным стоящим
 
делом, чтобы не быть в подмастерьях у Китая? Эволюционно развивая имеющиеся технологии, китайцев не
 превзойти - у них все равно будет получаться дешевле и лучше. Китайцы - лучшие «ремесленники» нашего времени.

 

И: Неужели европейские и российские компании вынуждены будут окончательно уступить технологическое превосходство Востоку?

 

Александр Амбарцумов:  Смотря, что считать технологическим превосходством.

Всю свою жизнь я с удовольствием читал научную фантастику: космические  
полеты и глубоководные аппараты, костюмы, дающие неуязвимость, умные
 роботы, перенос личности, телепортация и даже путешествия во времени стали для меня чем-то вполне естественным. Еще Чернышевский писал о будущем: «Оно светло и прекрасно. Стремитесь к нему, работайте для него, приближайте его, переносите из него в настоящее все, что можете перенести». Увы, разработку революционных технологий тяжело «поднять» в рамках «одной, отдельно взятой компании». Есть ли выход?

Думаю, да. Что делать, если очень нужно «Чудо» – прорывная технология, которой нет? Правильно! Имитировать её! Нет искусственного интеллекта – имитируйте его, используя естественный, нет телепортации – перемещайтесь мгновенно в искусственном теле – теле робота. И разве Вы не стали неуязвимы? Это, конечно, не эликсир вечной молодости, но искусственное тело не имеет возраста, а ваше - в режиме 24/7/365 может находиться под контролем умных приборов, все дальше и дальше продлевая жизнь. Этого можно добиться уже сегодня, соединяя порой несоединимое. И все это - искусство имитации, искусство воплощения самых смелых замыслов, которое всегда останется Искусством и никогда не станет ремеслом! А кто знает, где заканчивается иллюзия и начинается реальность?

Когда осознаешь это не в форме слов, которые слишком тусклые, чтобы передать всю полноту картины, а в виде ярких образов, складывающихся в устойчивую мозаику, самое правильное – поспешить высечь ступеньки посильной высоты на возникающей гранитной скале, уходящей в небо...



 Оксана Франк


 


Дата публикации: 12.12.2012
Добавил: ava  v3704207
Просмотров: 1462
Комментарии
[-]
 Анатолий Рудой | 24.07.2015, 15:41 #
Уважаемый АЛЕКСАНДР! Вы хотя и сдержанно, но
лаконично обозначили понятия разум, интеллект,
мозг, сознание, робот, жизнь ...
Позвольте сообщить Вам, что эти понятия и многие другие категории мировоззрения в расширенном варианте изложены в работах
http://www.koob.ru/rudoy/.
Буду признателен Вам, если Вы обратите на них внимание. СПАСИБО! Анатолий Рудой.
[email protected].

 ajay | 14.06.2019, 06:48 #
You are totally right. This post actually made my day. You can not imagine just how much time I
had spent for this info! Thanks!
hotmail signup
 Hammad Amir | 20.09.2021, 08:39 #
Fabulous post, you have denoted out some fantastic points, I likewise think this s a very wonderful website. I will visit again for more quality contents and also, recommend this site to all. Thanks.    บุหรี่ไฟฟ้า
 Hammad Amir | 22.09.2021, 10:35 #
We have sell some products of different custom boxes.it is very useful and very low price please visits this site thanks and please share this post with your friends.    บุหรี่ไฟฟ้า pod
 Joseph M. Clark | 29.07.2022, 17:01 #
hello!! Very interesting discussion glad that I came across such informative post. Keep up the good work friend. MCCQE
 shah | 30.07.2022, 19:09 #
Thank you a bunch for sharing this with all of us you actually realize what you are talking about! Bookmarked. Please also seek advice from my site =). We could have a hyperlink change contract between us!    certified spanish translation services
 Jane Maria | 02.09.2022, 21:56 #
Great post but I was wondering if you could write a little more on this subject? I’d be very thankful if you could elaborate a little bit further. Thanks in advance!    Lambingan
 Tim P. Berard | 07.11.2022, 13:02 #
This one is good. Keep up the good work I also visit here: and I get lot of information. overwatch 2 boost
 스포츠토토 | 08.11.2022, 06:41 #
Wow! Such an amazing and helpful post this is. I really really love it. It's so good and so awesome. I am just amazed. I hope that you continue to do your work like this in the future also . I'm impressed, I must say. Actually rarely can i encounter a blog that's both educative and entertaining, and without a doubt, you could have hit the nail about the head. Your idea is outstanding; the thing is something that too few individuals are speaking intelligently about. We are delighted that we came across this around my try to find some thing with this.
스포츠토토
 토토사이트 | 08.11.2022, 06:53 #
I wish more authors of this type of content would take the time you did to research and write so well. I am very impressed with your vision and insight. I have added and shared your site to my social media accounts to send people back to your site because I am sure they will find it extremely helpful too. This is such a great resource that you are providing and you give it away for free. I love seeing blog that understand the value of providing a quality resource for free. 토토사이트

 파워볼사이트 | 08.11.2022, 07:44 #
Hi! I’m at work surfing around your blog from my new apple iphone! Just wanted to say I love reading through your blog and look forward to all your posts! Keep up the outstanding work!| I just wanted to develop a brief note so as to thank you for all of the great tactics you are writing here. My long internet lookup has now been rewarded with good insight to talk about with my friends and classmates. I ‘d say that most of us visitors are extremely blessed to dwell in a magnificent place with many special individuals with helpful suggestions. I feel quite lucky to have used your web site and look forward to plenty of more fun times reading here. Thank you once more for a lot of things. Woah! I’m really loving the template/theme of this blog. It’s simple, yet effective. A lot of times it’s very difficult to get that “perfect balance” between superb usability and appearance. I must say you have done a great job with this. Additionally, the blog loads extremely fast for me on Chrome. Superb Blog!
    파워볼사이트
 먹튀검증 | 08.11.2022, 08:02 #
Superb website you have here but I was wanting to know if you knew of any discussion boards that cover the same topics talked about in this article? I’d really like to be a part of online community where I can get feedback from other experienced people that share the same interest. If you have any suggestions, please let me know. Appreciate it! I have been checking out many of your stories and i can state nice stuff. I will surely bookmark your website. certainly like your website but you need to check the spelling on several of your posts. Many of them are rife with spelling issues and I find it very troublesome to tell the truth nevertheless I’ll certainly come back again.
user posted image
 올인구조대먹튀 | 08.11.2022, 08:05 #
Nice to be visiting your blog once more, it has been months for me. Well this article that ive been waited for therefore long. i want this article to finish my assignment within the faculty, and has same topic together with your article. Thanks, nice share. Simply unadulterated brilliance from you here. I have never expected something not as much as this from you and have not confounded me by any reach out of the inventive vitality. I acknowledge you will keep the quality work going on. 올인구조대먹튀
 먹튀검증 | 08.11.2022, 08:07 #
Along with everything which appears to be building within this specific area, all your opinions happen to be quite refreshing. Nonetheless, I beg your pardon, but I can not subscribe to your whole plan, all be it exhilarating none the less. It appears to me that your comments are generally not completely validated and in fact you are generally your self not even completely confident of the point. In any event I did take pleasure in reading it. I am glad for commenting to make you be aware of what a really good experience my child had going through your web site. She came to find some pieces, including what it is like to have a wonderful coaching heart to have the mediocre ones smoothly comprehend a number of tortuous subject matter. You actually surpassed her expected results. I appreciate you for offering the invaluable, safe, explanatory as well as cool tips about this topic to Mary.
먹튀검증
 세븐벳 | 08.11.2022, 08:22 #
I enjoy you because of all your valuable work on this web site. My niece delights in doing investigations and it is simple to grasp why. All of us hear all concerning the powerful ways you produce advantageous tricks by means of your web blog and therefore cause contribution from other individuals on the subject so our child is truly being taught so much. Enjoy the rest of the new year. You have been performing a pretty cool job. I must convey my affection for your kindness giving support to men and women who really want guidance on in this niche. Your personal dedication to passing the solution all around has been certainly advantageous and have constantly allowed those like me to get to their objectives. Your amazing helpful hints and tips denotes a whole lot to me and additionally to my colleagues. Thanks a ton; from all of us. Thank you for all of the hard work on this web site. Ellie delights in managing investigations and it’s easy to see why. A lot of people hear all about the lively method you produce advantageous suggestions on the web site and as well as cause response from the others on this issue and my princess is discovering so much. Take advantage of the rest of the new year. You’re doing a brilliant job.
세븐벳
 세븐벳 | 08.11.2022, 08:26 #
I enjoy you because of all your valuable work on this web site. My niece delights in doing investigations and it is simple to grasp why. All of us hear all concerning the powerful ways you produce advantageous tricks by means of your web blog and therefore cause contribution from other individuals on the subject so our child is truly being taught so much. Enjoy the rest of the new year. You have been performing a pretty cool job. I must convey my affection for your kindness giving support to men and women who really want guidance on in this niche. Your personal dedication to passing the solution all around has been certainly advantageous and have constantly allowed those like me to get to their objectives. Your amazing helpful hints and tips denotes a whole lot to me and additionally to my colleagues. Thanks a ton; from all of us. Thank you for all of the hard work on this web site. Ellie delights in managing investigations and it’s easy to see why. A lot of people hear all about the lively method you produce advantageous suggestions on the web site and as well as cause response from the others on this issue and my princess is discovering so much. Take advantage of the rest of the new year. You’re doing a brilliant job.
세븐벳
 먹튀폴리스 | 08.11.2022, 09:16 #
Woah! I’m really digging the template/theme of this site. It’s simple, yet effective. A lot of times it’s challenging to get that “perfect balance” between usability and appearance. I must say you’ve done a superb job with this. In addition, the blog loads extremely quick for me on Opera. Excellent Blog! This is my very first comment here so I really wanted to say a quick shout out and tell you I truly enjoy reading through your posts. Can you recommend any other sites which go over healthy family diet? I am as well pretty intrigued by this! Thanks a ton!
 먹튀폴리스
 토토커뮤니티 | 08.11.2022, 09:24 #
Thank you for the great piece of information. i would like to share some of the ethical argument topics and exploratory essay topics that you can help you when writing. once again thank you for awesome platform. I recently came across your blog and have been reading along. I thought I would leave my first comment. I don't know what to say except that I have enjoyed reading. Nice blog. I will keep visiting this blog very often. Many thanks to you for sharing these kinds of wonderful content. In addition, the best travel plus medical insurance plan can often ease those considerations that come with visiting abroad.
토토커뮤니티
 먹튀 | 08.11.2022, 10:04 #
I definitely enjoying every little bit of it. It is a great website and nice share. I want to thank you. Good job! You guys do a great blog, and have some great contents. Keep up the good work. After looking at a few of the blog articles on your blog, I honestly like your technique of writing a blog. I added it to my bookmark site list and will be checking back soon. Take a look at my web site too and let me know what you think. It is perfect time to make some plans for the future and it is time to be happy.
먹튀
 먹튀검증사이트 | 08.11.2022, 10:13 #
I've been searching for hours on this topic and finally found your post. , I have read your post and I am very impressed. We prefer your opinion and will visit this site frequently to refer to your opinion. When would you like to visit my site? Really appreciate this wonderful post that you have provided for us.Great site and a great topic as well i really get amazed to read this. Its really good. A very awesome blog post. We are really grateful for your blog post. You will find a lot of approaches after visiting your post. I was exactly searching for. Thanks for such post  먹튀검증사이트

ava
No nick | 08.11.2022, 10:49 #
Hi there, simply was aware of your weblog via Google, and located that it’s really informative. I am going to watch out for brussels. 먹튀검증커뮤니티
 안전놀이터 | 08.11.2022, 11:00 #
Nice post. This post was very interesting. I got many information from this post. Thanks for share this post with us. I have noted some important points in my notes book. . Please visit us for more information
안전놀이터
 안전놀이터 | 08.11.2022, 11:07 #
I simply want to tell you that I am just beginner to blogs and really enjoyed you’re web page. Very likely I’m planning to bookmark your site .  I’ve bookmarked it in my google bookmarks
안전놀이터
 먹튀검증업체 | 08.11.2022, 11:16 #
This article is an appealing wealth of useful informative that is interesting and well-written. I commend your hard work on this and thank you for this information. I know it very well that if anyone visits your blog, then he/she will surely revisit it again. I loved this assignment article and kept updating interesting articles. I will be a regular reader. I am offering help to students over the globe at a low price. I delight in, cause I found just what I was looking for. You have ended my four day long hunt! God Bless you man. Have a great day.
먹튀검증업체
 토토사이트추천 | 08.11.2022, 11:17 #
Wow! Such an amazing and helpful post this is. I really really love it. It's so good and so awesome. I am just amazed. I hope that you continue to do your work like this in the future also . I'm impressed, I must say. Actually rarely can i encounter a blog that's both educative and entertaining, and without a doubt, you could have hit the nail about the head. Your idea is outstanding; the thing is something that too few individuals are speaking intelligently about. We are delighted that we came across this around my try to find some thing with this. 토토사이트추천

 먹튀검증업체 | 08.11.2022, 11:17 #
This article is an appealing wealth of useful informative that is interesting and well-written. I commend your hard work on this and thank you for this information. I know it very well that if anyone visits your blog, then he/she will surely revisit it again. I loved this assignment article and kept updating interesting articles. I will be a regular reader. I am offering help to students over the globe at a low price. I delight in, cause I found just what I was looking for. You have ended my four day long hunt! God Bless you man. Have a great day.
먹튀검증업체
 샌즈카지노 | 08.11.2022, 11:43 #
This article is an appealing wealth of useful informative that is interesting and well-written. I commend your hard work on this and thank you for this information. I know it very well that if anyone visits your blog, then he/she will surely revisit it again. I loved this assignment article and kept updating interesting articles. I will be a regular reader. I am offering help to students over the globe at a low price. I delight in, cause I found just what I was looking for. You have ended my four day long hunt! God Bless you man. Have a great day.
user posted image
 토토핫 먹튀검증 | 08.11.2022, 11:51 #
I definitely enjoying every little bit of it. It is a great website and nice share. I want to thank you. Good job! You guys do a great blog, and have some great contents. Keep up the good work. After looking at a few of the blog articles on your blog, I honestly like your technique of writing a blog. I added it to my bookmark site list and will be checking back soon. Take a look at my web site too and let me know what you think. It is perfect time to make some plans for the future and it is time to be happy.
토토핫 먹튀검증
 먹튀검증 | 08.11.2022, 11:56 #
It is amazing to reach such write-ups from experienced players in the market. Your writings inspire us to extend our coursework help to students from different programs. In case you come across any student looking for help in completing his assignment in different subjects, feel free to share the referral. We will be obliged to help students in scoring high marks in their assignments. Our team includes professionals with expertise in various subjects. Rest assured the work delivered will be of top-most quality. It is amazing to reach such write ups from experienced players in the market. Your writings inspire us to extend our coursework help to students from different programs. In case you come across any student looking for help in completing his assignment in different subjects, feel free to share the referral. We will be obliged to help students in scoring high marks in their assignments. Our team includes professionals with expertise in various subjects. Rest assured the work delivered will be of top-most quality.
먹튀검증
 사설토토 | 08.11.2022, 12:08 #
This design is wicked! You most certainly know how to keep a reader entertained. Between your wit and your videos, I was almost moved to start my own blog (well, almost…HaHa!) Excellent job. I really loved what you had to say, and more than that, how you presented it. Too cool! I will right away take hold of your rss as I can’t find your email subscription link or e-newsletter service. Do you’ve any? Kindly permit me understand so that I may just subscribe. Thanks. I’m not sure where you are getting your information, but good topic. I needs to spend some time learning much more or understanding more. Thanks for magnificent information I was looking for this info for my mission.
사설토토
 메이저사이트 | 08.11.2022, 12:35 #
The post is really superb. It’s varied accessory information that consists during a basic and necessary method. Thanks for sharing this text. The substance is genuinely composed. This web do my paper for me log is frequently sharing useful actualities. Keep sharing a lot of posts. I really loved reading your blog. It was very well authored and easy to understand. Unlike other blogs I have read which are really not that good. Thanks a lot! wow, great, I was wondering how to cure acne naturally. and found your site by google, learned a lot, now i’m a bit clear. I’ve bookmark your site and also add rss. keep us updated.
메이저사이트
 토토검증사이트 | 08.11.2022, 12:42 #
Having read this I thought it was very informative. I appreciate you taking the time and effort to put this article together. I once again find myself spending way to much time both reading and commenting. But so what, it was still worth it! I truly appreciate this post. I’ve been looking everywhere for this! Thank goodness I found it on Bing. You’ve made my day! Thanks again! I just couldn’t depart your web site prior to suggesting that I really enjoyed the standard information a person provide for your visitors? Is gonna be back often in order to check up on new posts
토토검증사이트
 먹튀신고 | 08.11.2022, 12:46 #
Thanks for one’s marvelous posting! I actually enjoyed reading it, you will be a great author.I will make certain to bookmark your blog and will come back down the road. I want to encourage one to continue your great writing, have a nice holiday weekend! I am really glad I have found this info. Nowadays bloggers publish only about gossips and net and this is actually irritating. A good blog with exciting content, this is what I need. Thanks for keeping this web site, I will be visiting it. Do you do newsletters? Can’t find it.
[url=https://totositepang.com/]
먹튀신고[/url]
 fgfdghhjj | 08.11.2022, 13:25 #
Almost all of what you assert is astonishingly appropriate and that makes me wonder the reason why 안전놀이터

 토토 | 08.11.2022, 13:42 #
The post is really superb. It’s varied accessory information that consists during a basic and necessary method. Thanks for sharing this text. The substance is genuinely composed. This web do my paper for me log is frequently sharing useful actualities. Keep sharing a lot of posts. I really loved reading your blog. It was very well authored and easy to understand. Unlike other blogs I have read which are really not that good. Thanks a lot! wow, great, I was wondering how to cure acne naturally. and found your site by google, learned a lot, now i’m a bit clear. I’ve bookmark your site and also add rss. keep us updated.
토토
 먹튀검증 | 08.11.2022, 13:49 #
Greetings! This is my 1st comment here so I just wanted to give a quick shout out and tell you I genuinely enjoy reading through your posts. Can you recommend any other blogs/websites/forums that go over the same subjects? Thanks for your time! I like your writing so much! share we be in contact more approximately your post on AOL? I require an expert in this house to unravel my problem. May be that’s you! Having a look forward to look you. Thank you for any other magnificent article. Where else could anyone get that type of information in such a perfect means of writing? I have a presentation subsequent week, and I am at the search for such information.먹튀검증

 
 먹튀검증 | 08.11.2022, 13:49 #
Greetings! This is my 1st comment here so I just wanted to give a quick shout out and tell you I genuinely enjoy reading through your posts. Can you recommend any other blogs/websites/forums that go over the same subjects? Thanks for your time! I like your writing so much! share we be in contact more approximately your post on AOL? I require an expert in this house to unravel my problem. May be that’s you! Having a look forward to look you. Thank you for any other magnificent article. Where else could anyone get that type of information in such a perfect means of writing? I have a presentation subsequent week, and I am at the search for such information.먹튀검증

 
 토토사이트 | 08.11.2022, 14:05 #
Definitely imagine that that you said. Your favorite justification appeared to be at the web the simplest factor to consider of. I say to you, I definitely get annoyed while other folks consider issues that they plainly don’t realize about. You managed to hit the nail upon the top and also defined out the whole thing with no need side-effects , people can take a signal. Will probably be again to get more. Thanks I’m still learning from you, but I’m trying to reach my goals. I certainly love reading everything that is posted on your website.Keep the posts coming. I liked it!
토토사이트
 먹튀검증 | 08.11.2022, 14:43 #
Usually I never comment on blogs but your article is so convincing that I never stop myself to say something about it. You’re doing a great job Man and Thanks for the post,Interesting stuff to read. Keep it up. Great post! I am actually getting ready to across this information, is very helpful my friend. Also great blog here with all of the valuable information you have. Keep up the good work you are doing here!
먹튀검증
 먹튀검증 | 08.11.2022, 15:01 #
It is amazing to reach such write-ups from experienced players in the market. Your writings inspire us to extend our coursework help to students from different programs. In case you come across any student looking for help in completing his assign  안전놀이터

 safetoto | 07.01.2023, 06:56 #
I was looking for another article by chance and found your article safetoto I am writing on this topic, so I think it will help a lot. I leave my blog address below. Please visit once.
 스포츠중계 | 19.03.2023, 07:09 #
Very informative post ! There is a lot of information here that can help any business get started with a successful social networking campaign
스포츠중계
 엠카지노 | 11.04.2023, 07:16 #
UFC President Dana White Playing <a href="https://cnn714.com">엠카지노</a> on Ultimate Casino
 홀덤사이트 추천 | 19.05.2023, 01:47 #
How to Get Diamonds 100% EVERY TIME in the <a href="https://mtt747.com">홀덤사이트 추천</a> Heist Vault in GTA 5 Online
 카지노솔루션 | 03.06.2023, 10:37 #
I would like to thank you for the efforts you have made in writing this article. I am hoping the same best work from you in the future as well. In fact your creative writing abilities has inspired me to start my own Blog Engine blog now. Really the blogging is spreading its wings rapidly. Your write up is a fine example of it.
카지노솔루션
 바카라게임사이트 | 03.06.2023, 13:57 #
I think I have never seen such blogs ever before that has complete things with all details which I want. So kindly update this ever for us
바카라게임사이트
 먹튀검증 | 12.06.2023, 03:54 #
Because of your blog, I have gained a lot of inspiration and innovation, new ideas that I have never had before. It is precisely because of your blog that I have a lot of imagination so quickly. Seeing your excellence, I will learn from you and hope that more and more people like you.먹튀검증
 먹튀검증 | 17.06.2023, 12:03 #
Keep on working, great job!
먹튀검증
 먹튀검증 | 19.06.2023, 12:55 #
"These are actually great ideas in concerning blogging.
You have touched some fastidious things here. Any way keep up wrinting."
[url=https://toto-shot.8b.io/]먹튀검증
[/url]
 메이저 먹튀 | 22.06.2023, 09:38 #
when it comes to video games, i enjoy playing those that have very nice graphics and story like Plantz and Zombies` https://mtline9.com
 누누티비 | 25.06.2023, 12:12 #
This is a fabulous post I seen by virtue of offer it. It is genuinely what I expected to see look for in future you will continue subsequent to sharing such an extraordinary post. 누누티비
 메이저사이트 | 06.07.2023, 03:11 #
I don't know how to describe it, you write this post like a light, lighting me up, I don't know where to find such a good blog, thank you for your talent.메이저사이트
 UFABET1688X | 05.08.2023, 13:04 #
ufabet เว็บแม่  แทงบอลได้ทุกที่ ทันทีที่ต้องการ สล็อตเว็บตรงอันดับ1 ที่ให้คุณสนุกได้ทุกรูปแบบ
 먹튀검증 | 15.08.2023, 14:20 #
Well, there is always a sudden feeling when you see some beautiful information on social media or anywhere else. It’s just you have to convey it in a more beautiful and sophisticated way
먹튀검증
 zcaF | 29.08.2023, 12:28 #
Thanks for sharing us
해외축구 무료중걔
 zcaF | 30.08.2023, 10:26 #
This feature gives the light in which we can observe the reality. I love to reading an article that can make somebody believe. Thanks a lot for sharing a piece of wonderful information which I am looking for a longer period of time
텐텐벳
 asd | 30.08.2023, 11:54 #
So lot to occur over your amazing blog. Your blog procures me a fantastic transaction of enjoyable.. Salubrious lot beside the scene
무지개토토
 aasd | 31.08.2023, 11:20 #
surprised why this coincidence didn’t came about earlier! I bookmarked it
장난감주소
 aasd | 31.08.2023, 11:21 #
surprised why this coincidence didn’t came about earlier! I bookmarked it
장난감주소
 해외축구중계 | 31.08.2023, 14:08 #
This blog is really great. The information here will surely be of some help to me. Thanks !
해외축구중계
 zcaF | 31.08.2023, 14:48 #
This is a great post. I like this topic.This site has lots of advantage.I found many interesting things from this site. It helps me in many ways.Thanks for posting this again
슬롯사이트
 슬롯사이트 순위 | 25.09.2023, 06:32 #
I would like to thank you for the efforts you have made in writing this article. I am hoping the same best work from you in the future as well. In fact your creative writing abilities has inspired me to start my own Blog Engine blog now. Really the blogging is spreading its wings rapidly. Your write up is a fine example of it.
슬롯사이트 순위
 바카라사이트 | 25.09.2023, 07:13 #
I would like to thank you for the efforts you have made in writing this article. I am hoping the same best work from you in the future as well. In fact your creative writing abilities has inspired me to start my own Blog Engine blog now. Really the blogging is spreading its wings rapidly. Your write up is a fine example of it.
바카라사이트
 카지노 카뮤니티 | 25.09.2023, 07:31 #
Its a great pleasure reading your post.Its full of information I am looking for and I love to post a comment that "The content of your post is awesome" Great work.
카지노 카뮤니티
 카지노사이트추천 | 25.09.2023, 08:18 #
A betting site list to play online sports betting in Turkey here, visit immediately.
카지노사이트추천
 온라인 카지노 | 25.09.2023, 08:52 #
Yes i am totally agreed with this article and i just want say that this article is very nice and very informative article.I will make sure to be reading your blog more. You made a good point but I can't help but wonder, what about the other side? !!!!!!THANKS!!!
온라인 카지노
 메이저놀이터 | 25.09.2023, 09:38 #
Very good points you wrote here..Great stuff...I think you've made some truly interesting points.Keep up the good work
메이저놀이터
 툰코 | 25.09.2023, 10:30 #
Thank you because you have been willing to share information with us. we will always appreciate all you have done here because I know you are very concerned with our.
    툰코
 먹튀검증 | 27.09.2023, 10:52 #
The next time I read a blog, I hope that it doesnt disappoint me as much as this one. I mean, I know it was my choice to read, but I actually thought you have something interesting to say. All I hear is a bunch of whining about something that you could fix if you weren't too busy looking for attention
먹튀검증
 pgslot168z | 30.09.2023, 15:48 #
You really make it seem so easy with your presentation but I find this matter to be actually something which I think I would never understand. It seems too complex and extremely broad for me. I am looking forward for your next post, I will try to get the hang of it! pgslotvip]ufabet168[/url]
 ufabet168 go | 02.10.2023, 14:15 #
It's really nice and meanful. it's really cool blog. Linking is very useful thing.you have really helped lots of people who visit blog and provide them usefull information.ทางเข้าufabet168 vip]ทางเข้าufabet168 vip[/url]
 asdd | 30.10.2023, 06:57 #
I like review sites which grasp the cost of conveying the fantastic helpful asset for nothing out of pocket. I genuinely revered perusing your posting. Much obliged to you
토토솔루션
 누누 | 22.01.2024, 12:36 #
이러한 유형의 주제를 검색하는 거의 모든 사람들에게 도움이되기를 바랍니다. 저는이 웹 사이트가 그러한 주제에 가장 적합하다고 생각합니다. 좋은 작품과 기사의 품질.
누누
Ваши данные: *  
Имя:

Комментарий: *  
Прикрепить файл  
 


Оценки
[-]
Статья      Уточнения: 0
Польза от статьи
Уточнения: 0
Актуальность данной темы
Уточнения: 0
Объективность автора
Уточнения: 0
Стиль написания статьи
Уточнения: 0
Простота восприятия и понимания
Уточнения: 0

zagluwka
advanced
Отправить
На главную
Beta