Столкновение западного и восточного искусственного интеллекта уже началось

***

Американский вариант ИИ обманывает людей и манипулирует ими

Американский вариант искусственного интеллекта (ИИ) настроен на обман и манипуляцию, которые человечество в скором времени уже перестанет замечать, предупреждает Илон Маск.

По его словам, существующий ИИ навязывает миру «нишевую идеологию Сан-Франциско и Беркли», которая окажется неприемлемой для остального мира. В Китае крупнейшие компании уже договариваются о регулировании китайского варианта ИИ, который сможет противостоять американским идеологическим установкам.

Илон Маск, глава Tesla и SpaceX, а также владелец социальной сети Twitter, дал высокую оценку развитию индустрии ИИ в Китае в связи с проводимой в Шанхае Всемирной конференции по искусственному интеллекту, сообщило агентство «Синьхуа». Маск заявил, что в будущем Китай достигнет значительного прогресса в области ИИ, поскольку в стране есть множество образованных специалистов. Однако, передает агентство, американский предприниматель призвал регулировать индустрию ИИ по всему миру ввиду опасений и рисков относительно «темной стороны» ее стремительного развития.

Заявления о «темной стороне» технологии ИИ звучат давно, а в мае Маск и около 1 тыс. экспертов, ученых, предпринимателей подписали открытое письмо с призывом к лабораториям искусственного интеллекта приостановить разработки продвинутого ИИ до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких систем.

В интервью популярному американскому журналисту Такеру Карлссону на его канале в соцсети Маск недавно озвучил свой главный страх, связанный с ИИ. «Сверхсильный ИИ, способный хорошо писать и четче понимать, как влиять на людей, залезет в Twitter и начнет манипулировать общественным мнением. Миллионы таких человекоподобных ботов будут делать это массово, приводя к катастрофе», – сказал Маск. В качестве защиты он предлагает помечать аккаунты, чтобы было понятно, где живой человек, а где бот.

Конференция в Шанхае проводится уже с 2018 года неслучайно, в этом магаполисе расположено более тысячи компаний, занятых разработкой технологий ИИ, в которых работают десятки тысяч специалистов. По прогнозам, к 2025 году эта индустрия будет приносить городу около 60 млрд долл., в два раза больше, чем в 2020-м. Трудно предположить, что призывы, которые выглядят несколько запоздавшими, смогут остановить подобную индустрию, хотя по некоторым признакам можно заметить, что в мировом масштабе надулся небольшой ИИ-пузырь. По данным аналитической компании CB Insights, в 2022 году мировые инвестиции в проекты по разработке ИИ снизились на 34% процента, до 45,8 млрд долл. 

«Письмо 1 тысячи» нашло отклик у политиков. Человечество вступает в новую технологическую эру, при этом будучи совсем неподготовленным, заявил в обращении к участникам саммита Шанхайской организации сотрудничества (ШОС) генеральный секретарь ООН Антониу Гутерриш. Искусственный интеллект – это сфера, где возможности управления далеко отстают, отметил он. 

Как отмечала Wall Street Journal, администрация президента Джозефа Байдена начала уже с апреля исследовать вопрос о необходимости регулирования сервисов искусственного интеллекта, включая чат-бот ChatGPT четвертого поколения, с которого и началась активизация тревожных заявлений. Национальное управление по телекоммуникациям и информации США разрабатывает принципы, которые должны гарантировать, что системы ИИ делают то, что они должны делать, и, что важнее, не делают того, чего не должны. «Ответственные системы искусственного интеллекта могут принести огромную пользу, но только если мы устраним их потенциальные последствия и вред», – заявил руководитель управления Алан Дэвидсон. 

Евросоюз также недавно сообщал, что планирует ужесточить регулирование сферы ИИ. В Брюсселе обсуждается закон об ИИ, который будет направлен на снижение рисков, представляемых различными моделями этой технологии, заявил еврокомиссар по внутреннему рынку Тьерри Бретон. Вступление в действие этого закона намечено на 2023 год. 

В Китае продвигают принцип прозрачности, нейросети должны быть понятными и объяснимыми для пользователей. С начала января 2023 года действуют правила Администрации киберпространства, которые запрещают создавать дипфейки во вред национальным интересам. А в апреле был опубликован для общественного обсуждения проект документа по управлению услугами с применением ИИ. Главное, что генерируемый ИИ контент должен продвигать основные принципы и ценности социализма и не должен содержать положений, подрывающих основы государственной власти. Нельзя также использовать преимущества генеративных нейронных сетей для недобросовестной конкуренции. 

«ИИ сегодня вызревает как технология, политический инструмент и как объект правового регулирования, – сказала «НГ» директор Центра цифровой экономики МГИМО, глава третейского суда РСПП по разрешению цифровых споров Элина Сидоренко. – Акценты в полемике об управлении ИИ смещаются с этических вопросов, с вопросов ответственности за продукцию, полученную с помощью ИИ, как это было долгие годы, в сторону самой технологии. Под предлогом кибербезопасности предпринимаются попытки ограничить применение ИИ по отдельным видам деятельности, отраслям, кроме того, раздаются призывы ограничить и конкретные типы технологий». 

США, которые стали пионерами во внедрении ИИ, пытаются теперь удержать пальму первенства, поясняет эксперт. «В Конгресс уже вносятся законы о запрете использования других, кроме ChatGPT, чат-ботов, что, безусловно, создаст последнему конкурентное преимущество и даже полное лидерство: ведь ИИ становится тем умнее, чем дольше он работает, обучаясь на все новых и новых задачах. США раскручивают тему опасности «чужих» систем. У Китая другой подход, он понимает угрозу со стороны США в этой сфере, которая носит и чисто экономический характер. Китай мастерски играет на идее низкого киберриска ИИ и все шире вводит ИИ во все сферы жизни, развивая свои системы на внутреннем рынке с перспективой выхода на внешние», – говорит Сидоренко. 

«Есть различия и в ограничениях по сферам применения. Например, западные страны достигают консенсуса о неприменении ИИ в оборонной промышленности, их настораживают результаты экспериментов, когда ИИ предлагает уничтожить оператора, сформировавшего трудновыполнимое задание в сфере обороны. Китай на словах поддерживает такой подход, однако активно использует ИИ в своих оборонительных системах», – продолжает эксперт.

На самом деле риски использования ИИ есть, вопрос ответственности его использования сохраняется, и никто не знает, где та кнопка, тот рубильник, который пресечет действия ИИ на каком-то этапе, если что-то пойдет не так, говорит Сидоренко. «Что касается России, то у нас есть прогресс в развитии ИИ, власти и бизнес ориентированы на его развитие, на широкое использование в экономике и госуправлении, – говорит эксперт. – РФ также видит риски использования такой технологии, но сейчас, особенно в условиях санкций, оппонировать США и Китаю в этой сфере мы не можем».

Автор Анатолий Комраков

Источник - https://www.ng.ru/economics/2023-07-09/4_8768_artificialintelligence.html

*** 

Приложение. Взрывной рост спроса на ChatGPT и другие сервисы искусственного интеллекта

Взрывной рост спроса на ChatGPT и другие сервисы искусственного интеллекта потянул вверх капитализацию мировых производителей полупроводниковой продукции.

Первой волну поймала американская Nvidia, чьи процессоры оказались эффективными для обучения нейросетей. За один день американская компания Nvidia стала самым дорогим производителем полупроводниковой продукции с капитализацией свыше триллиона долларов. (На фото: представленный на прошлой неделе на выставке Computex кластер суперпроизводительных чипов от Nvidia.)

 «Единственное, что мы можем сказать: вау!» — приводит Bloomberg комментарий одного из биржевых трейдеров после небывалого скачка стоимости акций Nvidia — одного из самых ярких взлетов в истории фондового рынка. В конце мая бумаги этого крупного мирового производителя процессоров в одночасье выросли в цене на 30%, c около 300 почти до 400 долларов за акцию, обновив исторический максимум.

Это вывело Nvidia на первое место по капитализации среди всех производителей полупроводниковой продукции — стоимость хайтек-гиганта превысила триллион долларов. Nvidia стала девятой в истории триллионной публичной компанией. Напомним, первой этот рубеж в 2017 году преодолела китайская нефтегазовая компания PetroChina. В августе 2018-го капитализации в 1 трлн долларов достигла Apple, в сентябре того же года триллионную планку преодолел Amazon, следующим в 2019 году стали Microsoft и нефтяная компания Саудовской Аравии Saudi Aramco, в 2020‒2021 годах более триллиона стали стоить Alphabet (материнская компания Google), а также производитель электрокаров Tesla и корпорация Meta (признана экстремистской и запрещена в России).

Ворваться в узкий «клуб триллионеров» Nvidia позволил набирающий обороты бум на решения искусственного интеллекта (ИИ) — в частности, на стремительно развивающийся генеративный ИИ-сервис ChatGPT. Заметно подорожали акции и других хайтек-компаний, связанных с подобными технологиями.

Дай триллион

Спрос на бумаги Nvidia взлетел после того, как прогноз продаж этой компании на второй квартал текущего года превысил ожидания аналитиков. Накануне глава корпорации Дженсен Хуанг заявил, что она получила «невероятные заказы», и если ранее предполагалось что в период с апреля по июнь 2023 года Nvidia получит выручку на уровне 7 млрд долларов, то сейчас этот прогноз вырос более чем на 50%, до 11 млрд долларов.

Всплеск внимания инвесторов к Nvidia для многих стал неожиданностью. Например, незадолго до рекордного подорожания крупный инвестиционный фонд Ark Invest продал большой пакет акций Nvidia, посчитав их бесперспективными. И действительно, развитие Nvidia в последнее время было далеко не безоблачным. 

Эта компания была создана американским предпринимателем тайваньского происхождения Дженсеном Хуангом, ее бессменным президентом, в 1993 году. С момента появления она специализировалась на разработке графических процессоров (GPU), ориентированных на обработку графических данных. Исторически этот элемент компьютерной техники больше всего используется в видеокартах, востребованных в компьютерных играх и в профессиональной деятельности, связанной с обработкой визуальной информации. Такие продукты компании, как графические процессоры GeForce, графические карты Quadro, чипсеты nForce и другие, позволили Nvidia стать одной из ведущих мировых хайтек-компаний. Численность ее персонала составляет 13,7 тыс. человек, оборот — более 27 млрд долларов, прибыль по итогам 2022 года — 4,37 млрд долларов. 

Однако совсем недавно Nvidia переживала серьезные проблемы, так как ее массовые продажи зависели в основном от игровой индустрии, а спрос здесь в последнее время нестабилен. Например, во время пандемии спрос на высокопроизводительные компьютерные видеокарты для гейминга сначала поднялся, но потом, когда были сняты карантинные ограничения, резко упал. Спрос на видеокарты для игр стал снижаться и из-за распространения так называемого облачного гейминга, когда необходимая обработка графической информации ведется на удаленных серверах провайдера игровых сервисов и пользователю не нужно иметь мощный компьютер. Помимо игр графические процессоры были востребованы и в таком динамично развивающемся направлении, как майнинг криптовалют. Но и здесь за взлетом спроса последовала турбулентность: из-за нестабильного курса криптоденег и ограничений, вводимых на них регуляторами, спрос на графические карты для майнинга то растет, то падает. В итоге в конце 2022 года мировые продажи видеокарт упали до 20-летнего минимума, поставив Nvidia в сложное положение. Но сейчас для графических процессоров появился новый значимый клиент — разработчики сервисов искусственного интеллекта. 

ИИ-революция

Собственно, графические процессоры и раньше были востребованы в технологиях ИИ. Например, в автомобильной промышленности, а точнее, в создании систем беспилотных авто. Но все же роботы на дорогах — это нишевая тема, а сейчас искусственный разум рвется в повседневную жизнь каждого человека. Речь идет о взрывном росте популярности таких ИИ-сервисов, как ChatGPT. Разработанный компанией OpenAI (один из ее основателей — Илон Маск), этот чат-бот с искусственным интеллектом удивил массового пользователя способностью выполнять широкий спектр когнитивных задач — от поиска ответа на интересующий вопрос до возможности написать программный код, стихотворение или учебный реферат. Рядовой потребитель с удивлением обнаружил, что ChatGPT может самостоятельно генерировать тексты объемом до 25 тысяч слов, описывать изображения или вот, например, недавно он успешно сдал экзамен на адвоката. 

Сейчас ChatGPT называют самым быстрорастущим цифровым сервисом в истории. После запуска в конце ноября прошлого года всего за пять дней своего существования он привлек миллион пользователей, а за два месяца преодолел отметку в 100 млн клиентов. По итогам апреля ежемесячное число посетителей сайта сервиса составила впечатляющее 1,8 млрд человек.  Помимо ChatGPT в мире набирают популярность другие связанные с искусственным интеллектом сервисы. Это, например, Rytr и Jasper (написание текстов), Replica (разговоры на любые темы), Elsaspeak (изучение языков), Aiseo (продвижение сайта в поисковых системах), Copilot (написание программных кодов) и многие другие. В борьбу за лидерство в сфере ИИ бросились и хайтек-гиганты, включая Google, Amazon, Meta. В частности, Google в ближайшее время должен запустить свой чат-бот LaMDA, который, по заявлениям разработчиков, содержит 540 млрд параметров, что почти в три раза больше, чем у ChatGPT. 

Аналитики говорят, что в ближайшем будущем технологии ИИ проникнут в широкие сферы повседневной жизни человека, а также станут важным инструментом в развитии экономики и бизнеса, где роботизированным решениям будет отводиться большая роль, например, в маркетинге, инжиниринге, проектировании, в налаживании цепочек поставок. По прогнозам Next Move Strategy Consulting, в 2023 году глобальный рынок искусственного интеллекта достигнет 208 млрд долларов, а к 2030 году — 1,8 трлн долларов. И как раз для развития этих перспективных технологий особенно подходит такое «железо», как графические процессоры. Для обучения нейросетей в технологиях ИИ лучше подходят графические процессоры, которые раньше особенно любили геймеры и майнеры криптовалют. В их производстве порядка 80% мирового рынка занимает Nvidia. 

Робот присел на GPU

Технологии графических процессоров GPU развивались бок о бок с другими аппаратными решениями, нацеленными на быструю обработку информации и широко применяемыми в компьютерной технике. Прежде всего это центральные процессоры (CPU), которые сейчас являются главным вычислительным инструментом любого персонального компьютера. Ранее GPU и CPU были нацелены на решение разных задач, так как работают на разных принципах: CPU спроектированы таким образом, чтобы, упрощенно говоря, последовательно выполнять цепочки вычислений, в то время, как GPU могут одновременно оперировать огромным количеством независимых между собой вычислений. Получается, что если подавать на графический процессор большой объем независимых математических задач, то он справляется с их решением значительно быстрее, чем центральный процессор. В свое время это свойство графических процессоров хорошо подошло для майнинга криптовалюты (здесь важно в максимально короткий срок из миллионов комбинаций подобрать один ключ для получения виртуальной прибыли).

Сейчас же GPU оказались особенно эффективным и быстрым инструментом для развития алгоритмов искусственного интеллекта и обучению нейросетей. «Практически все вычисления, необходимые для ИИ, можно свести к операциям с многомерными векторами, которые как раз оптимально обрабатывать, используя графические процессоры, — объясняет Алексей Ермаков, преподаватель факультета игровой индустрии и киберспорта университета “Синергия”. — Максимально быстрые операции с алгебраическими объектами, в виде которых и обрабатывается видеосигнал, сейчас наиболее популярны, например, в обработке естественного языка и создания языковых моделей». 

Последние два десятилетия Nvidia является лидером на мировом рынке графических процессоров с долей рынка порядка 80%, остальные 20% занимает ее основной конкурент — другой американский производитель микроэлектроники — AMD, акции которого сейчас тоже стремительно растут. На фоне этого невыгодно выглядит положение такого крупнейшего мирового производителя CPU, как Intel: эта компания в первом квартале 2023 года получила крупнейший в своей истории убыток в размере 2,8 млрд долларов. Пытаясь ухватить благоприятный тренд, Intel стремится развивать свою линейку графических процессоров, но пока видимых достижений не наблюдается. Тем временем на крупной выставке Computex, открывшейся на прошлой неделе, Дженсен Хуанг делал громкие заявления о том, что CPU уже отжили свой век. Они продолжат использоваться, например, в рассчитанной на массового потребителя компьютерной технике. Но в сегменте перспективных профессиональных вычислительных центров, связанных в том числе с развитием технологий искусственного интеллекта, лучше подойдут GPU. 

Этот тезис Дженсен Хуанг доказывал на своей презентации, где он заявил о существенной разнице в производительности, энергоэффективности и стоимости серверов на базе CPU и GPU. Так, по его словам, чтобы обучить одну большую языковую модель (LLM), понадобится 960 серверов на базе CPU или всего два сервера на базе GPU. Это существенная разница, в том числе в энергоэффективности и стоимости. Процессорные системы обойдутся компаниям в 10 млн долларов и потребуют для этого 11 ГВт/час энергии, тогда как система на GPU обойдется в 400 тыс. долларов и потратит всего 0,13 ГВт/час — производительность при этом останется одинаковой. 

Светлое пятно в ожидании рецессии

Взлет акций NVidia повлек за собой и рост стоимости других компаний, связанных с технологиями искусственного интеллекта. По оценкам Reuters, всего за неделю рост акций компаний, связанных с ИИ, в общей сложности повысил их капитализацию на 300 млрд долларов. Например, почти на 10% подорожали бумаги таких производителей программного обеспечения для ИИ, как американские C3.ai и Palantir Technologies. Подросли бумаги Microsoft, Apple, Alphabet, Amazon, которые, как мы говорили выше, обещают в ближайшее время выводить на рынок связанные с ИИ продукты. 

Наконец, знаковым выглядит рост акций ведущих мировых производителей базовой полупроводниковой продукции. Пошли в рост акций голландской ASML (Advanced Semiconductor Materials Lithography) и тайваньской TSMC (Taiwan Semiconductor Manufacturing Company Limited), продукция которых используется при производстве процессоров, в том числе той же Nvidia. 

«Например, стоимость акций производителя полупроводниковых чипов и компонентов Marvell Technology взлетела на 32 процента на заявлении ее руководства о том, что выручка компании в сегменте решений для ИИ как минимум удвоится в текущем финансовом году и продолжит расти быстрыми темпами в последующие годы, — комментирует Игорь Додонов, аналитик финансовой группы “Финам”. — По-видимому, на фоне общей не самой радостной картины на рынках, омрачаемой спорами по потолку госдолга США, ожиданиями рецессии в ведущих странах, высокой инфляцией и жесткой монетарной политикой центробанков, инвесторы увидели в ИИ единственное светлое пятно, точку роста и принялись рьяно скупать акции имеющих отношение к ИИ компаний».

В мире началась ИИ-революция. Вместе с ростом стоимости Nvidia на биржах в общей сложности на 300 млрд долларов подскочили цены акций других компаний, связанных с технологиями искусственного интеллекта. 

Китайский фактор

Купаясь в повышенном внимании к своей деятельности, руководство Nvidia использует возможность громко заявить и о проблемах. К ним относится развязанная в конце прошлого года американским руководством страны «война чипов» между США и Китаем, в ходе которой Вашингтон запретил Nvidia и другим своим высокотехнологичным компаниям поставлять полупроводниковую продукцию в КНР. На днях в интервью Financial Times Дженсен Хуанг заявил, что это может нанести огромный ущерб американской технологической отрасли и что экспортный контроль связывает Nvidia по рукам и ногам, лишая ее возможности продавать передовые чипы на одном из крупнейших рынков. По оценкам, до введения ограничений на долю Китая приходилось более одной пятой всех продаж Nvidia, и потеря этого рынка больно бьет по бизнесу компании.

Но особенно волнует американскую корпорацию то, что поднимают голову китайские производители графических процессоров, которые в будущем могут составить Nvidia конкуренцию. По данным Worldview by Stratfor, глобально Китай уже почти вышел на третье место по производству полупроводников, обогнав США и уступая только Тайваню, Южной Корее и Японии. Наращивает темп КНР и в области выпуска GPU, к наиболее активным китайским компаниям в этой области относятся, например, Huawei, Biren, Innosilicon. «Китайские производители GPU, такие как Huawei, Bitmain и другие, стремятся стать конкурентоспособными на мировом рынке, они инвестируют в разработку и производство собственных GPU, и в будущем их продукты могут составить конкуренцию американским и другим производителям. Хотя пока китайские производители GPU не достигли такой же степени признания, как Nvidia и AMD», -— комментирует Дмитрий Мазанов, специалист IT-компании Arbitroom.

Так как компаниям Nvidia, AMD и другим американским разработчикам чипов запрещено поставлять продукцию в Россию, то в будущем китайские производители могут стать значимыми поставщиками графических процессоров в РФ, где тоже растет спрос на сервисы искусственного интеллекта. По данным АНО «Цифровая экономика», объем российского рынка ИИ оценивается по итогам прошлого года в 635 млрд рублей, и, по прогнозам этой организации, к 2030 году вклад ИИ в российский ВВП может составить 2%.

Например, Сбер декларирует, что финансовый эффект от внедрения ИИ в компании только по итогам 2022 года составил более 230 млрд рублей. Публично говорят об эффективности использования ИИ в своей деятельности маркетплейс Ozon, ретейлер X5 Group, «Авито» и многие другие. А для массовых пользователей в апреле этого года «Яндекс» запустил ИИ-сервис для генерации изображений «Шедеврум», Сбер в тестовом режиме запустил альтернативу ChatGPT — сервис GigaChat. «Решения на основе искусственного интеллекта постепенно внедряются во многие российские системы: от контроля дорожного движения до, например, контроля погрузки высотных грузов, когда на видео фиксируется, на сколько градусов отклоняется трос, и на основании этих данных создается система предупреждения аварийных ситуаций, -— рассказывает Роман Дементьев, генеральный директор компании “АТБ Электроника” (производство электронного оборудования промышленного назначения). — Мы видим много команд, которые начали разработку сервисов на основе ИИ. К нам обращаются за аппаратными решениями как стартапы, так и сформировавшиеся вендоры и интеграторы, внедряющие свои решения в промышленности и государственном секторе. В перспективе двух-трех лет, когда решения с использованием ИИ пройдут этап тестирования у заказчиков и перейдут в стадию активного внедрения, спрос на процессоры в России значительно повысится».

В самой России графические процессоры массово не производятся, и перспективы здесь выглядят туманно (производство ведущих российских брендов «Байкал» и «Эльбрус» в большей степени связано с CPU), но пока участники российского ИТ-рынка не видят их дефицита в стране. Впрочем, уже сейчас стоит приготовиться к тому, что спрос на такие аппаратные решения будет расти и в условиях санкций нужно будет придумывать способы его удовлетворения. Хотя, с другой стороны, не стоит и впадать в эйфорию относительно головокружительных перспектив искусственного интеллекта. Биржевые аналитики уже сейчас говорят о рисках образования финансового пузыря. «Признаки образования пузыря мы можем видеть уже сейчас, — указывает Игорь Додонов из “Финама”. — В частности, акции Nvidia торгуются с такими коэффициентами, которые представляются заметно завышенными, даже учитывая хорошие перспективы роста бизнеса компании. Риск состоит в том, что, если темпы развития ИИ вдруг перестанут соответствовать нынешним сверхоптимистичным ожиданиям, разочарование может оказаться сильным, что, в свою очередь, отразится и на стоимости акций ИИ-компаний».

Автор: Алексей Грамматчиков, обозреватель журнала «Эксперт»

Источник - https://expert.ru/expert/2023/23/chip-speshit-na-pomosch-iskusstvennomu-intellektu/