 |
 |
 |
 |
 |
 |
 |
 |
 |
Реальный интеллект
Я хотел бы поделиться некоторыми мыслями о больших языковых моделях (LLM), или так называемом искусственном интеллекте. Прошу прощения, что в этом посте не будет никаких ссылок, цитат или данных. Это просто попытка разобраться с чем–то в своей голове – с чем–то, чего я не чувствую, хотя, скорее всего, я это упустил из виду, — что было изложено в обсуждении где-либо еще.
Это момент, который, с одной стороны, очевиден, но, как мне кажется, недостаточно обоснован: LLM — это, как следует из названия, языковые модели. При заданном объеме текста они создают набор вероятностей, так что для любого заданного ввода вы можете рассчитать вероятность того, что после определенного ввода следующим будет определенное слово. Другими словами, это инструменты для преобразования материалов, которые люди размещают в Интернете.
С одной стороны, это известно всем. Именно это имеют в виду критики, когда называют эти программы “стохастическими попугаями”. Это то, о чем думают компании, которые их производят, когда говорят о проблеме обучающих данных. Но я не думаю, что мы задумываемся об этом достаточно, когда думаем о том, что это такое на самом деле.Поколения научно-фантастических рассказов научили нас представлять машины, которые мыслят, думают хорошо или плохо, услужливо или злонамеренно. Но, возможно, мы бы лучше понимали LLM — что они делают хорошо, а что — плохо или не делают вообще — если бы думали о них не как о мыслящих машинах, а как о окнах: окнах, позволяющих думать о том, что люди уже сделали.
Когда вы вводите запрос в ChatGPT, не происходит никакого мышления в смысле абстрактной модели мира, которой можно манипулировать, а затем выразить словами. В LLM есть только слова. Причина, по которой магистр права может ответить на фактический вопрос, заключается в том, что кто-то опубликовал текст по этому конкретному вопросу. Причина, по которой они делают красивые фотографии, заключается в том, что в Интернете огромное количество фотографий с приложенным описательным текстом. Причина, по которой они так хорошо разбираются в программировании, заключается в том, что люди опубликовали огромное количество фрагментов кода (а также в том, что код очень хорошо написан с точки зрения грамматики).
Если вы впечатлены тем, что LLM может предоставить вам статистический блок для вашей кампании DnD (один из действительно важных положительный пример использования, который я видел), или ответы на домашнее задание по экономике, или текст для анкетного письма — что вас действительно должно впечатлить, так это то, что за последние 30 лет так много людей опубликовали версии именно этого.
Люди говорят о программном обеспечении и его фишках. И, конечно, для этого действительно нужно много фишек. Но настоящий секрет в том, что люди бесплатно разместили в Интернете огромное количество полезного текста. Вот откуда берется волшебство.
Ладно, они не публиковали все это бесплатно — многое из этого было сделано за деньги. Но ни один из текстов, на которых работают магистранты, не был создан для продажи магистрантам. С их точки зрения, все это бесплатно. Они опираются на положительные внешние эффекты, связанные с тем, что люди по своим причинам общаются друг с другом в Интернете. По сути, компании LLM пожинают плоды обширного спонтанного, непосредственно социального, вышедшего из употребления децентрализованного производства потребительских ценностей.
Когда мы смотрим на полезные материалы, которые дают нам магистратуры, мы не должны думать, насколько крута эта технология. Мы должны думать о том, каким огромным количеством полезной работы люди готовы делиться онлайн, бесплатно, без какой-либо денежной компенсации. Машина — наименее интересная часть. Это просто краткое изложение для нас.
Что заставляет LLM работать как бизнес, так это именно то, что весь этот текст является устаревшим и, с их точки зрения, бесплатным. Как они сами говорят, им пришлось бы закрыться, если бы им пришлось платить за свои обучающие данные. Однако все эти данные являются продуктом человеческого труда. Этот передовой элемент капитализма – основная часть инвестиций в новый бизнес – покоится на коммунистической основе.
Люди, которые критикуют OpenAI и другие подобные компании за несоблюдение авторских прав, абсолютно правы в своем лицемерии и непоследовательном применении закона. Но, на мой взгляд, они в основном дают правильное разрешение в обратном порядке. Мы хотим создать мир, в котором информация будет бесплатной для всех, а не такой, в котором OpenAI и компания также уважают правила игры. Вы можете спросить: почему это следует из вышесказанного? На что я бы сказал: сами магистратуры демонстрируют ценность предоставления бесплатного контента в самом широком смысле этого слова для всех.Урок, который мы должны извлечь из LLMs, заключается в огромной социальной ценности наличия всех видов материалов — всех видов продуктов интеллектуального труда человека — в свободном доступе в Интернете. Они должны напоминать нам о ранних утопических перспективах Интернета.
Но теперь мы должны изменить это. Другая сторона, конечно же — «конечно!» — заключается в том, что компании, выпускающие дипломы о высшем образовании, делают это не с целью облегчения обмена материалами, которые люди выложили в свободный доступ в Интернете. Они делают это с целью огородить его, превратить продукты свободной человеческой деятельности в товары.Проблема, с которой нам приходится сталкиваться, заключается в том, что эти компании продают доступ к свободно используемым продуктам социальной деятельности людей как продукт их собственных капиталов. (А также то, что они поощряют людей использовать его в глупых, бессмысленных или социально деструктивных целях.)
Хуже того: проект огораживания и коммерциализации мира онлайн-коммуникаций разрушает то, что изначально делало его ценным. Это полная противоположность трагедии общего достояния — как будто жители деревни и животные, пасущиеся на лугу, были тем, что удобряло его и делало ценным в первую очередь. Этот случай, когда совместное использование общих ресурсов скорее поддерживает, чем разрушает их, является, как я подозреваю, более распространенным в традиционных фермерских и скотоводческих общинах. В любом случае, это, безусловно, относится к информационным ресурсам общего пользования — частное присвоение несовместимо с коллективной деятельностью, которая их поддерживает. Нельзя ожидать, что люди будут продолжать публиковать посты на Reddit, если все, что они слышат в ответ, — это помои об ИИ.
Тем не менее, я думаю, что это важно, особенно для тех из нас, кто глубоко скептически относится к ИИ&как бизнес, мы не должны упускать из виду по-настоящему позитивный и преобразующий аспект этой технологии: окно, которое она открывает в возможности свободного, вышедшего из употребления кооперативного производства.
В настоящее время ведутся серьезные споры не об этой конкретной технологии. (Хотя, чтобы было ясно, речь идет о ее огромных энергетических потребностях. Реальный вопрос заключается в том, при каких условиях люди по-прежнему смогут делиться друг с другом продуктами интеллектуального труда в сети. Вопрос не в том, что «Искусственный интеллект» будет или не будет делать. Вопрос в том, как мы можем воспользоваться огромными возможностями для обмена результатами реального человеческого интеллекта, которые были открыты Интернетом, но все больше закрывались его коммерческими хозяевами.
Другие новости: