Соответственно, компания, которой принадлежат ChatGPT и Dall-E, взяла на себя ряд обязательств по политике в области ИИ. «Компания стремится сотрудничать с правительством США и политиками по всему миру, чтобы поддержать разработку требований лицензирования для всех высокопроизводительных моделей ИИ в будущем».
Идея лицензирования ИИ, совместно продвигаемая лидерами отрасли, такими как OpenAI, и правительством, создает условия для потенциального конфликта между стартапами и разработчиками ПО с открытым исходным кодом, которые видят в этом попытку затруднить проникновение в сферу ИИ.
На слушаниях в Конгрессе США генеральный директор OpenAI Сэм Альтман однажды выдвинул идею создания агентства, ответственного за лицензирование или отзыв продуктов ИИ, если они нарушают установленные правила.
Раскрытие информации OpenAI произошло на фоне того, что другие крупные компании в сфере искусственного интеллекта, такие как Microsoft и Google, также рассматривают аналогичные шаги.
Однако вице-президент компании по глобальным вопросам Анна Маканджу заявила, что документ о внутренней политике будет отличаться от той политики, которую, как ожидается, опубликует Белый дом. OpenAI заявила, что компания не «навязывает», а считает лицензирование «практичным» способом для правительств регулировать новые системы.
«Правительствам важно знать, могут ли эти сверхмощные системы потенциально причинить вред», и «у властей очень мало способов узнать об этих системах без предоставления ими информации».
Маканджу заявил, что OpenAI поддерживает лицензирование только более мощных моделей ИИ, чем GPT-4, и хочет гарантировать, что небольшим стартапам не придется нести бремя регулирования.
Подотчетность и прозрачность
OpenAI также дала понять во внутренней документации, что она готова быть более открытой в отношении данных, которые она использует для обучения генераторов изображений, таких как Dall-E. Компания заявляет, что она привержена прозрачному, ответственному подходу к данным разработки ИИ.
Аналитики отметили, что обязательства, изложенные в меморандуме OpenAI, в значительной степени соответствуют некоторым политическим предложениям Microsoft, сделанным в мае. OpenAI отметила, что, несмотря на получение инвестиций в размере 10 миллиардов долларов от Microsoft, она остается независимой компанией.
Кроме того, компания, которой принадлежит ChatGPT, также провела исследование водяных знаков для отслеживания подлинности и авторских прав на изображения, созданные с помощью ИИ.
В меморандуме OpenAI, по-видимому, признает потенциальные риски, которые системы ИИ представляют для рынка труда, а также неравенство. Компания заявила в проекте, что проведет исследование и предоставит рекомендации политикам для защиты экономики от потенциального «разрушения».
Компания также заявила, что открыта для доступа и тестирования своих систем на предмет уязвимостей в различных областях, включая оскорбительный контент, манипуляции и дезинформацию, и поддерживает создание совместного центра обмена информацией по кибербезопасности.
(По данным Bloomberg)
Источник
Комментарий (0)