))
В США хотят создать искусственный интеллект, который превзойдет человека. На это потратят 500 миллиардов долларов. Получится? Вряд ли: пока нейросети «не умнее кошки»
Manage episode 463098224 series 2956238
Контент предоставлен Meduza.io. Весь контент подкастов, включая эпизоды, графику и описания подкастов, загружается и предоставляется непосредственно компанией Meduza.io или ее партнером по платформе подкастов. Если вы считаете, что кто-то использует вашу работу, защищенную авторским правом, без вашего разрешения, вы можете выполнить процедуру, описанную здесь https://ru.player.fm/legal.
На следующий день после вступления в должность президента США Дональд Трамп объявил о создании новой компании Stargate, которая займется развитием искусственного интеллекта. Предполагается, что это будет крупнейший ИИ-проект в истории — в ближайшие четыре года ключевые инвесторы планируют вложить в него 500 миллиардов долларов. Глава OpenAI Сэм Альтман уже заявил, что благодаря Stargate в США наконец-то будет разработан общий искусственный интеллект (AGI), о создании которого мечтают все компании в этой индустрии. Правда, далеко не все разделяют его уверенность, а Илон Маск и вовсе раскритиковал эту инициативу. «Медуза» рассказывает, что такое общий ИИ — и почему Stargate вряд ли сможет его создать (но, возможно, приблизит его появление).
В создании Stargate участвуют американские компании OpenAI и Oracle, японский холдинг SoftBank и инвестиционная компания MGX из ОАЭ. На первом этапе они вложат в это предприятие 100 миллиардов долларов, а в следующие четыре года объем инвестиций должен вырасти до 500 миллиардов. По словам Трампа, новый проект позволит создать в США 100 тысяч рабочих мест.
Технологическими партнерами Stargate, помимо OpenAI и Oracle, станут Microsoft, NVIDIA и британский разработчик чипов Arm — дочерняя компания SoftBank. Новая компания будет создавать «физическую и виртуальную инфраструктуру для ИИ следующего поколения». В рамках проекта по всей стране будут строить новые центры обработки данных, причем работа над первым из них уже началась в Техасе.
В интервью Fox News глава OpenAI Сэм Альтман заявил, что благодаря новому проекту разработчики наконец-то смогут создать общий искусственный интеллект. «Я думаю, что с другим президентом это было бы невозможно», — добавил он. Впрочем, пока разработчики далеки от создания AGI, и сам Альтман признавал это за день до того, как объявить о создании Stargate. «Мы не собираемся запускать AGI в следующем месяце, и мы его еще не создали, — написал гендиректор OpenAI в соцсети X. — У нас есть для вас кое-что очень крутое, но, пожалуйста, успокойтесь и снизьте свои ожидания в 100 раз!».
Инвестор Николай Давыдов отметил, что сумма в 500 миллиардов долларов сопоставима с объемом всего рынка венчурных инвестиций в США. В целом этот амбициозный проект действительно может ускорить развитие ИИ-индустрии в стране. Но достижение такого объема инвестиций во многом будет зависеть от привлечения новых партнеров и в целом ситуации на рынке, пишет VentureBeat. При этом структура финансирования компании остается непрозрачной.
Журналисты издания The Information, на которое ссылается TechCrunch, выяснили, что первоначально OpenAI и SoftBank планируют вложить в Stargate по 19 миллиардов долларов (газета Financial Times пишет о 15 миллиардах). Таким образом, они смогут обеспечить себе 40-процентную долю в новом совместном предприятии. Однако некоторые представители индустрии сомневаются, что у создателей новой компании достаточно средств для этого проекта.
Среди них Илон Маск — ближайший соратник Трампа и один из сооснователей OpenAI. В ответ на твит создателей ChatGPT о создании Stargate миллиардер написал: «У них на самом деле нет денег». В другом посте Маск отметил, что второй партнер, SoftBank, также не может предоставить достаточное финансирование. «SoftBank обеспечила менее 10 миллиардов долларов. У меня есть достоверные сведения», — заявил предприниматель. Сэм Альтман ответил ему, что эта информация не соответствует действительности.
Чего еще ждут от Трампа в IT-индустрии
Частично слова Маска подтвердил один из источников Financial Times, близкий к проекту Stargate. «Они еще не определились со структурой, не разобрались с финансированием, у них нет гарантированных средств», — отметил собеседник издания. Официальные представители OpenAI и SoftBank отказались от комментариев.
Несмотря на то, что Дональд Трамп участвовал в анонсе Stargate, федеральное правительство не планирует заниматься финансированием проекта. Все средства будут поступать от частных компаний. Единственное, чем президент США пока помог новому предприятию (помимо того, что привлек внимание своим участием в пресс-конференции), — выпустил исполнительный указ, который в теории должен упростить регулирование в области искусственного интеллекта.
Сэм Альтман считает недостаток вычислительной мощности одним из главных препятствий на пути к созданию ИИ, способного превзойти человека. Проект Stargate может решить эту проблему. Однако многие представители индустрии до сих пор сомневаются, что такой искусственный интеллект в принципе можно создать, вне зависимости от количества денег, потраченных на него.
До сих пор непонятно, что считать сильным ИИ. Одно ясно точно — сейчас искусственный интеллект уступает даже домашним животным
Общим (или сильным) искусственным интеллектом принято называть автономную ИИ-систему, которая сможет решать широкий спектр задач с минимальным участием человека. Считается, что она будет делать это не хуже, а, возможно, даже лучше своих создателей. Разработка подобной системы — первоочередная задача большинства компаний, занимающихся искусственным интеллектом, в том числе OpenAI (это прописано в ее уставе), Meta, Google DeepMind, xAI Илона Маска и многих других.
Существующие генеративные модели относят к узкому (или слабому) ИИ. Несмотря на то, что разработчики довольно часто применяют в отношении таких систем слово «думают», на полноценные размышления они не способны. Генеративный искусственный интеллект ограничен тем объемом и качеством данных, который использовался в процессе его обучения. Такая система не просто повторяет известную ей информацию — она способна обобщать, интерпретировать и упрощать ее в соответствии с запросом пользователя. Но это не совсем соответствует тому, что принято считать «пониманием» информации.
Именно эту проблему и должен решить общий искусственный интеллект. Его разработчики мечтают, что в идеале AGI сможет продемонстрировать нечто похожее на человеческое сознание. То есть он не просто будет генерировать ответы на основе загруженных в него обучающих данных, но и рассуждать, обосновывать свои решения, выстраивать сложные логические цепочки, обладать определенными знаниями об окружающем мире, постоянно обучаться и развиваться, а также комбинировать все эти способности для решения сложных задач. В том числе тех, которые не были изначально предусмотрены разработчиками.
Впервые термин «сильный ИИ» использовал американский философ Джон Роджерс Сёрл в научном журнале Behavioral and Brain Sciences в 1980 году. В статье под названием Minds, brains, and programs он описывал мысленный эксперимент «Китайская комната» и использовал такое определение: «Согласно сильному ИИ, компьютер — это не просто инструмент для изучения разума; напротив, правильно запрограммированный компьютер — действительно разум в том смысле, что компьютеры, оснащенные соответствующими программами, буквально могут понимать и обладать другими когнитивными состояниями».
Термин AGI появился во второй половине 1990-х годов (его использовал ученый-физик Марк Губруд), а более широкое распространение получил уже в начале 2000-х. Этому предшествовали несколько десятилетий безуспешных попыток ученых создать полноценный искусственный интеллект, который мог бы заменить человека. Однако большинство оптимистичных прогнозов исследователей так и не сбылись — ни по срокам, ни по возможностям ИИ.
При этом в индустрии до сих пор нет единого мнения по поводу того, что конкретно скрывается за определением AGI и какими именно возможностями он должен обладать. В том числе потому, что помимо научных проблем исследователи часто сталкиваются с философскими.
Например, все еще непонятно, что вообще понимать под человеческим сознанием. Достаточно ли общему ИИ пройти тест Тьюринга или он должен демонстрировать (точнее, имитировать) силу воли, эмоции и самосознание? Способна ли машина в принципе осознать себя как машина, или она может повторять лишь то, что в нее было заложено изначально разработчиками? И, наконец, нужно ли все это AGI на самом деле? Или для того, чтобы признать его существование, достаточно масштабировать возможности слабого ИИ до того предела, когда большинство пользователей не смогут отличить его возможности от человеческих?
На все эти вопросы нет однозначных ответов, чем пользуются некоторые современные разработчики искусственного интеллекта. Например, OpenAI дает пространное определение: «Наша миссия — гарантировать, что общий искусственный интеллект — ИИ-системы, которые в целом умнее человека, — принесут пользу всему человечеству». Под такую формулировку компания может подвести едва ли не любую свою разработку.
Например, в сентябре 2024 года компания представила новую модель искусственного интеллекта под названием OpenAI o1. Для ее создания применяли другой тип обучения. Предыдущие ИИ-модели используют в ответах готовые шаблоны, полученные из массивов загруженных в них данных. Для o1 использовали «обучение с подкреплением», в рамках которого систему поощряют или наказывают в ходе взаимодействия с внешней средой.
Подробнее о модели o1
Некоторые исследователи внутри OpenAI считали эту систему прорывом в процессе создания AGI. По слухам, она даже стала причиной конфликта внутри компании и временного увольнения Сэма Альтмана с поста гендиректора. Он якобы слишком легкомысленно относился к этой разработке, а ученые, напротив, предупреждали о возможной опасности такой системы для человечества.
Однако OpenAI o1 все же вышла — более того, разработчики уже представили следующую модель в этом семействе, но человечеству они не навредили. Ян Лекун, один из ведущих исследователей искусственного интеллекта и вице-президент корпорации Meta, считает, что все опасения по поводу безопасности на данном этапе развития ИИ бессмысленны. «Мне кажется, что прежде чем „срочно разбираться с тем, как контролировать ИИ-системы, которые намного умнее нас“, нам нужно хотя бы наметить дизайн системы, которая была бы умнее домашней кошки», — написал ученый в X в мае 2024 года.
Лекун отмечал, что кошки обладают ментальной моделью физического мира, устойчивой памятью, некоторыми способностями к рассуждению и умением планировать. Ни одна из передовых ИИ-систем до сих пор не обладает такими качествами. В том числе и те, которые разрабатывает сама Meta.
Что происходило в OpenAI
Многие предсказывают появление AGI в течение пяти лет. Но сложно сказать, будут ли такие системы по-настоящему продвинутыми
Представления об общем ИИ, которыми руководствуются сами компании, могут принципиально отличаться от того, что они транслируют на широкую публику. Например, в конце декабря 2024-го стало известно, что OpenAI и ее главный инвестор, компания Microsoft, дали собственное внутреннее определение AGI. И оно основано не на возможностях новой системы, а на финансовых показателях.
По данным The Information, еще в 2023 году компании подписали соглашение, в котором говорилось, что OpenAI достигнет AGI только тогда, когда разработанные ей ИИ-системы смогут генерировать не менее 100 миллиардов долларов прибыли. Никаких технических и тем более философских определений этот документ не содержит. Пока OpenAI далека от этих показателей — по данным журналистов, компания не рассчитывает стать прибыльной как минимум до 2029 года.
Формально это внутреннее определение AGI — юридическая уловка со стороны Microsoft. В октябре 2024-го журналисты The New York Times рассказывали, что в контракте между партнерами есть особый пункт. В нем говорится, что если разработчики создадут общий ИИ, то Microsoft потеряет доступ к технологиям OpenAI. Такая формулировка позволяла правлению компании в любой момент отказаться от сотрудничества с Microsoft, представив под видом AGI более простую систему.
В последнее время сотрудники OpenAI все чаще жалуются на то, что их главный партнер не предоставляет достаточно вычислительных мощностей, пишет The New York Times со ссылкой на свои источники. Поэтому Альтман ищет разные способы, чтобы избавиться от контрактных ограничений, например, с помощью проекта Stargate.
Размытые определения общего искусственного интеллекта позволяют разработчикам делать довольно оптимистичные прогнозы по срокам появления AGI. Так, глава подразделения Microsoft AI Мустафа Сулейман считает, что на разработку такой системы может потребоваться пять-семь лет. Однако для этого необходимо более современное оборудование. Похожей оценки придерживается Илон Маск — по его прогнозам, AGI может появиться уже в 2029 году.
Сэм Альтман согласен, что пять лет — достаточно для создания общего ИИ. При этом он осторожно отметил, что эта технология вряд ли приведет к серьезным изменениям в обществе, как предполагалось изначально. Глава OpenAI считает AGI лишь первым шагом на пути к следующему этапу — созданию суперинтеллекта, который будет превосходить самых гениальных и одаренных представителей человечества.
Ян Лекун считает, что на создание ИИ, способного достичь человеческого уровня, могут уйти десятилетия. В том числе потому, что они существуют в двухмерной концепции. «Нам нужны машины, которые понимают мир, которые могут запоминать, которые обладают интуицией, имеют здравый смысл, которые могут рассуждать и планировать на том же уровне, что и люди», — отметил ученый.
Лекун предполагает, что для решения более сложных задач необходимо создавать трехмерные ИИ-модели с принципиально иным типом архитектуры. Но пока разработчики не достигли большого прогресса в воплощении подобных систем в реальность.
Над чем работает бывший главный ученый OpenAI
Михаил Герасимов
70 эпизодов
Поделиться
