AI 2023. Встречайте ChatGPT. - страница 83

 
Vitaliy Kuznetsov #:

Всё верно. Языковая модель нужна для понимания запроса, эмоционального окраса. С этим я думаю она справляется. Не вижу того, что она не понимает о чём я говорю. И уже к этой языковой модели будут прикручивать плагины и доступ в интернет. Так что мы пока в начальной стадии познания ИИ.

В то же время она способна на диалог и возможно некоторую роль психолога способна выполнять.

В этом заключается парадокс. 

Подключение плагинов превращает модель из "ИИ ранней стадии" в мультипрограммный языковой интерфейс. Делая этот шаг, разработчики перестают развивать технологию искусственного интеллекта. Вместо этого, переходят к развитию технологии лингвистического интерфейса.

Плагины - это тупик развития языковой модели в качестве AGI.

Став интерфейсом, модель им останется навсегда. 

Если OpenAI пошли этим путем, они исчерпали потенциал технологии. 

 
Реter Konow #:

***

Если OpenAI пошли этим путем, они исчерпали потенциал технологии. 

А может они решили сэкономить время? Понасоздадут плагинов, они изучат их популярность и востребованность, прогресс. Что смогут повторить - повторят, остальное выкупят.

К примеру, DALL-E можно было рассматривать как отдельный продукт или приделать его к GPT4 как плагин, но в итоге объединили (в Bing по крайней мере)
 
Vitaliy Kuznetsov #:

А может они решили сэкономить время? Понасоздадут плагинов, они изучат их популярность и востребованность, прогресс. Что смогут повторить - повторят, остальное выкупят.

К примеру, DALL-E можно было рассматривать как отдельный продукт или приделать его к GPT4 как плагин, но в итоге объединили (в Bing по крайней мере)

Самое ценное в работе языковой модели, - выданный пользователю результат (а не диалог, как можно подумать).

Если модель не может рассчитать результат и обращается к стороннему приложению (через плагин), модель становится зависимой. 

Подключаемые приложения проприетарные и принадлежат другим компаниям. Эти компании могут создать свои языковые модели и подключить как дополнительный лингвистический интерфейс к основному графическому. Либо, могут уйти от GPT-4 и подключиться к LLaMA, например. Или LLM другого IT-гиганта.

Становясь интерфейсом, модель теряет эксклюзивность, прекращает AI-гонку и уходит с дистанции. Теперь, в качестве лингвистического интерфейса, ее может заменить любая другая LLM.

Я думаю, на этом ставится точка роли OpenAI в развитии AGI.

Это не удивительно, учитывая что они не авторы технологии трансформер. Дошли до предела и меняют направление к ближайшим успехам, а не глобальному выйгрышу. У них нет другого выхода.

 
Реter Konow #:

***

Если модель не может рассчитать результат и обращается к стороннему приложению (через плагин), модель становится зависимой от этого приложения. 

***

Может это просто элемент монетизации. Им ведь ничто не мешает всё это встроить в базовую версию, кроме денег и времени.

 
Vitaliy Kuznetsov #:

Может это просто элемент монетизации. Им ведь ничто не мешает всё это встроить в базовую версию, кроме денег и времени.

Ну как например, встроить WolframAlfa в GPT-4 ? Нереально. Количество приложений огромно. Невозможно "встроить" их функционал в модель. Только подключать со стороны.

Приложения проприетарные, т.е. принадлежат другим компаниям. 

 
Реter Konow #:

***

Приложения проприетарные, т.е. принадлежат другим компаниям. 

Пока их не купят

 
Реter Konow #:

Ну как например, встроить WolframAlfa в GPT-4 ? Нереально. Количество приложений огромно. Невозможно "встроить" их функционал в модель. Только подключать со стороны.

Приложения проприетарные, т.е. принадлежат другим компаниям. 

Чего курим ?

вообще-то всё строго наоборот - фишка вольфрама это запросы на естественном языке. Это подобие gpt (натренированный на около-математики) в нём, а не наоборот. 

всё необходимое уже встроено

 
Vitaliy Kuznetsov #:

Пока их не купят

Допустим, гипотетически, их купят и начнут включать исходный код в языковую модель. Что мешает конкурентам (Google, например) сделать тоже самое? Чем OpenAI их превзойдут (даже с деньгами от Microsoft)? У них было временное технологическое преимущество, но с каждым днем они его теряют, потому что создают воспроизводимую другими технологию, давая себя догнать.

Это объективный процесс и вряд ли у OpenAI есть какие альтернативы. Скоро на рынок выложат похожие лингвистические интерфейсы с подключенными плагинами от других компаний, и OpenAI затеряется среди них.

 
Maxim Kuznetsov #:

Чего курим ?

вообще-то всё строго наоборот - фишка вольфрама это запросы на естественном языке. Это подобие gpt (натренированный на около-математики) в нём, а не наоборот

всё необходимое уже встроено

Я запутался среди двух "наоборот". ) Не понял мысль. 

Речь о том, что одно в другое не встроить. Только соединить можно.

 
Реter Konow #:

Хотел более подробно обсудить эту тему. Тут есть над чем подумать.

...

1. Вместе с ускорением работы с информацией, ускорятся зависимые от доступности информации процессы. Эффективность и производительность работы ученых, инженеров, программистов, дизайнеров, художников вырастет. Студенты станут быстрее учится т.к. сразу получат информацию в нужном контексте, с графиками и таблицами. 

2. Думаю, люди не будут массово терять работу (пока), но их работа будет становится значительно легче.

3. Мы переходим на новый этап ускорения мировых процессов.

1. А ускоряется ли работа с информацией? В смысле, доступность информации "запроси и узнай" действительно становится больше при сравнении семантического поисковика (в лице обсуждаемых языковых моделей) и традиционного индексированного поиска по ключевым словам. Однако, когда речь заходит о той доступности, что похожа "запроси, узнай и сумей применить в реальной задаче", т.е. о практически полезных знаниях, то в этом смысле я не вижу никакого качественного скачка. И ограничителем здесь является вовсе не поисковик, а сам человек с его зависимостью от биохимической природы мышления, памяти и ума. На мой взгляд, доступность информации уже сейчас сильно превышает возможности индивида для её обработки (учтываем и объёмы, и наличие шума, ложных сведений и прочих препятствий, вроде платных подписок к научным базам).

Для того, чтобы освоить что-то до практически полезного уровня, не достаточно просто услышать ответ от поисковика (каким бы продвинутым или впечатляющим он ни был), нужно приложить усилия для осмысления реальных нюансов, развития навыков, мастерства и т.п. Т.е. специалистам в своих областях ИИ-помощники как бы и не нужны, ибо в своей сфере они уже освоились, а новички всё равно не способны на базе ответов от поисковика самостоятельно решать реальные задачи на уровне специалистов. В качестве примера напомню о практике некоторых новичков "программировать" по ответам из stackoverflow. Толку от этого мало, хоть и ответ очень доступный. И повышение доступности этого готового ответа не делает пользователя более способным к программированию. Чтобы стать специалистом, нужно тренировать свой ум в решении реальных задач в своей сфере, причём, делать это самостоятельно.

2. Настало время, когда специалисты в некоторых сферах начинают конкурировать не только между собой (что само по себе не просто уже сейчас), но и с дешёвым генератором их продукта. Думаю, легче этим специалистам не станет. Что толку им будет от того, что свою работу с помощью технологий они смогут выполнять легче, если им её будет доставаться всё меньше?

3. Если глубоко задуматься над тем, а какие вообще у нас тут мировые процессы происходят, то может оказаться так, что это ускорение, если оно и имеет место, вовсе не в интересах населения Земли. Впрочем, анализ субъектов мировых процессов, думаю, лучше отложить.

Причина обращения: