Соучредитель европейского чемпиона по искусственному интеллекту с открытым исходным кодом использовал миллионы защищенных авторским правом книг при работе над мета-моделями
ИИ предлагает нам все более мощные и способные модели, но откуда берутся данные, которые делают все это возможным? Судебные документы, внутренние электронные письма и свидетельства бывших сотрудников, недавно опубликованные французским изданием Mediapart, проливают новый свет на практику, уже известную как массовое использование пиратских книг для обучения языковым моделям, а также на участие в нем того, кто сегодня является центральной фигурой европейского ИИ.
Суть скандала: LibGen и модели называют
В центре разоблачений находится Library Genesis, известная как Library Genesis (LibGen), «несанкционированная библиотека», объединяющая миллионы защищенных авторским правом книг, доступных без разрешения законных владельцев.
Согласно исследованию Mediapart, Meta* неоднократно обращалась к LibGen для обучения своего семейства моделей LLaMA, предназначенных для конкуренции с такими системами, как ChatGPT. Проанализированные документы показывают, что загрузка началась в октябре 2022 года и достигла предполагаемого объема в 70 терабайт данных, то есть десятков тысяч оцифрованных книг.
Использование этих источников не было бы незначительным или случайным. Внутренние электронные письма и фрагменты кода позволяют предположить, что эта практика была известна и обсуждалась в командах, несмотря на сомнения, выраженные некоторыми сотрудниками в ее законности.
Ответственность директора Meta*
Раскрытие информации не ограничивается индивидуальными инициативами. Согласно судебным документам, руководство Meta* было проинформировано: некоторые файлы даже предполагают, что Марк Цукерберг поддерживал использование этих наборов данных в условиях, когда приобретение законных лицензий на миллионы книг потребовало бы астрономических затрат и длительных сроков переговоров.
Лаборатория FAIR, которой в то время руководил известный исследователь Янн ЛеКун, считается местом, где принимались многие из этих решений. После выпуска FLaMA Meta*, как сообщается, ненадолго задумалась о легализации доступа к лицензионному контенту, прежде чем снова обратиться к «бесплатным» источникам.
Гийом Лэмпл, от Мета до Mistral AI
Одно из наиболее часто упоминаемых имен — это имя Гийома Лэмпла, в то время исследователя лаборатории FAIR (Fundamental AI Research) компании Meta*, а сегодня соучредителя и главного научного сотрудника Mistral AI.
Согласно документам, раскрытым во время судебного разбирательства, в ходе которого Meta* столкнулась с рядом авторов, в том числе с писателем Ричардом Кадри, Гийом Лэмпл активно продвигал бы использование LibGen в Meta*. Во внутренних биржах, цитируемых Mediapart, ему приписывают утверждение, что «все используют LibGen», приводя в качестве примеров OpenAI, Google и DeepMind.
Когда другие сотрудники подняли вопрос о необходимости консультации с юридическим отделом, Лэмпл, как сообщается, ответила, что не задавала никаких вопросов, предполагая, что это обычная практика в отрасли.
Mistral AI и его обещания прозрачности под подозрением
Интерес СМИ к Гийому Лэмплу объясняется не только его прошлым в Meta*: в 2023 году он основал Mistral AI, французский стартап, который в рекордно короткие сроки стал одним из самых влиятельных игроков в европейской экосистеме искусственного интеллекта. с многомиллиардной оценкой.
С момента своего создания Mistral AI отстаивает стратегию «высокого качества», основанную на данных, и лицензионные соглашения, заключая партнерские отношения с такими учреждениями, как AFP, INA или Национальная библиотека Франции.
Однако бывшие сотрудники Meta*, которых цитирует Mediapart, утверждают, что LibGen, возможно, также использовался на ранних этапах разработки модели Mistral 7B, хотя на данный момент документальных подтверждений этому нет. Компания, с которой связался Mediapart, уверяет, что обучает свои модели с помощью
«Общедоступная информация, лицензированные наборы данных и синтетические данные, созданные собственными силами».
Дискуссия, выходящая за рамки технологических
Это дело является частью более широкого конфликта: как в Соединенных Штатах, так и в Европе авторы, издатели и художники множат судебные иски против компаний, занимающихся искусственным интеллектом, обвиняя их в присвоении охраняемых произведений без компенсации.
Откровения о Meta* и LibGen показывают, что проблема носит не маргинальный, а структурный характер. Обучение большим языковым моделям требует колоссальных объемов данных, а легальный доступ к таким материалам противоречит экономическим интересам и скорости рынка.
В конечном счете, все сводится к одному вопросу: могут ли технологические инновации быть оправданы за счет прав авторов?
Редактор: AndreyEx
