Forward from: Сиолошная
Проснулись-потянулись, а тут новое эссе Sama 🚶 «Reflections», посвященное рефлексии прошедших лет. Я не буду пересказывать всё (в частности уделю меньше внимания прошлогоднему увольнению и упоминаниям AI Safety), вот некоторая часть:
— В 2022м году OpenAI были тихой исследовательской лабораторией, работавшей над «Chat With GPT-3.5». Мы всегда знали, абстрактно, что мы достигнем переломного момента и начнется революция ИИ. Но мы не знали, когда и как это произойдёт. К нашему удивлению, запуск ChatGPT оказался таким событием.
— За последний год мы выросли с примерно 100 миллионов еженедельно активных пользователей до более чем 300 миллионов. Прежде всего, мы продолжали выпускать в мир технологии, которые люди искренне любят и которые решают реальные проблемы.
— Мы запустили OpenAI почти девять лет назад, потому что верили, что AGI возможен и что это может стать самой влиятельной технологией в истории человечества. [хотя тогда над ними смеялись и это звучало глупо]
— Некоторые повороты на этом пути были радостными; некоторые были трудными. Было забавно наблюдать, как происходит постоянный поток исследовательских чудес, и многие скептики стали истинно верующими.
— Теперь мы уверены, что знаем, как построить AGI, как мы его традиционно понимали [предполагаю, что тут имеется в виду формулировку «система, превосходящая человека в большинстве экономически важных задач»]. Мы считаем, что в 2025 году мы можем увидеть первых ИИ-агентов, «пополнивших ряды рабочей силы» и существенно изменивших результаты деятельности компаний.
— [Поэтому] мы начинаем выходить за рамки этого, к суперинтеллекту, в истинном смысле этого слова. Мы любим наши текущие продукты, но мы здесь ради славного будущего. С суперинтеллектом мы можем делать все что угодно. Подобные инструменты могли бы значительно ускорить научные открытия и инновации, намного превосходя то, что мы способны сделать сами, и, в свою очередь, значительно увеличить изобилие и процветание нашего рода.
— Сейчас это звучит как научная фантастика, и даже говорить об этом немного безумно. Это нормально — мы уже были в этой точке раньше и не против оказаться там снова [имеется в виду момент запуска OpenAI, когда то же самое говорили про AGI].
====
За пару дней до этого Sama твитнул:
И люди гадали, что же это значит. Вкупе с тезисами из свежего эссе, полагаю, что новые модели показали ещё какой-то крутой результат (например, o3 или даже o4, совмещённая с агентом, оперирующим за рабочим столом и выполняющим задачи; но это спекуляции), снова удививший Sama и команду.
В конце года вернёмся и посмотрим 🫤
— В 2022м году OpenAI были тихой исследовательской лабораторией, работавшей над «Chat With GPT-3.5». Мы всегда знали, абстрактно, что мы достигнем переломного момента и начнется революция ИИ. Но мы не знали, когда и как это произойдёт. К нашему удивлению, запуск ChatGPT оказался таким событием.
— За последний год мы выросли с примерно 100 миллионов еженедельно активных пользователей до более чем 300 миллионов. Прежде всего, мы продолжали выпускать в мир технологии, которые люди искренне любят и которые решают реальные проблемы.
— Мы запустили OpenAI почти девять лет назад, потому что верили, что AGI возможен и что это может стать самой влиятельной технологией в истории человечества. [хотя тогда над ними смеялись и это звучало глупо]
— Некоторые повороты на этом пути были радостными; некоторые были трудными. Было забавно наблюдать, как происходит постоянный поток исследовательских чудес, и многие скептики стали истинно верующими.
— Теперь мы уверены, что знаем, как построить AGI, как мы его традиционно понимали [предполагаю, что тут имеется в виду формулировку «система, превосходящая человека в большинстве экономически важных задач»]. Мы считаем, что в 2025 году мы можем увидеть первых ИИ-агентов, «пополнивших ряды рабочей силы» и существенно изменивших результаты деятельности компаний.
— [Поэтому] мы начинаем выходить за рамки этого, к суперинтеллекту, в истинном смысле этого слова. Мы любим наши текущие продукты, но мы здесь ради славного будущего. С суперинтеллектом мы можем делать все что угодно. Подобные инструменты могли бы значительно ускорить научные открытия и инновации, намного превосходя то, что мы способны сделать сами, и, в свою очередь, значительно увеличить изобилие и процветание нашего рода.
— Сейчас это звучит как научная фантастика, и даже говорить об этом немного безумно. Это нормально — мы уже были в этой точке раньше и не против оказаться там снова [имеется в виду момент запуска OpenAI, когда то же самое говорили про AGI].
====
За пару дней до этого Sama твитнул:
я всегда хотел написать рассказ из шести слов. вот он:
[находимся] возле сингулярности; непонятно с какой стороны
И люди гадали, что же это значит. Вкупе с тезисами из свежего эссе, полагаю, что новые модели показали ещё какой-то крутой результат (например, o3 или даже o4, совмещённая с агентом, оперирующим за рабочим столом и выполняющим задачи; но это спекуляции), снова удививший Sama и команду.
В конце года вернёмся и посмотрим 🫤