Генеративный AI постепенно меняет контент Wikipedia.
Используя такие инструменты, как OpenAI и ChatGPT, вы заметите, что они создают текст, похожий на написанный человеком. Однако проблема в том, что они могут добавлять недостоверные сведения.
Wikipedia, известная тщательно проверенной информацией для миллионов людей, теперь использует эти AI-инструменты для создания, обобщения и обновления статей.
В этой статье мы расскажем, как генеративный AI влияет на Wikipedia.
Контент
- Что такое генеративный AI?
- Генеративный AI и Wikipedia
- Влияние генеративного AI на Wikipedia
- Заключение
Что такое генеративный AI?
Генеративный AI — это разновидность искусственного интеллекта, способная создавать новый контент, дизайн или концепции с помощью алгоритмов машинного обучения. Он анализирует предоставленный вами запрос — текст, изображение, видео или дизайн — а затем создаёт новый контент на его основе.
Многие авторы Wikipedia используют в работе инструменты генеративного AI, например ChatGPT от OpenAI. Однако эти инструменты иногда «галлюцинируют» и создают вымышленные ссылки, что может привести к распространению недостоверной информации.
Джимми «Джимбо» Уэйлс, основатель Wikipedia и Wikimedia Foundation, признаёт, что информация, созданная генеративным AI, не всегда надёжна. Он рассказал, как спросил ChatGPT, врезался ли самолёт в Empire State Building. Сначала бот ответил отрицательно, но затем описал, как бомбардировщик B25 врезался в здание, тем самым противореча собственному предыдущему ответу.
Генеративный AI и Wikipedia
Более двух десятилетий Wikipedia создаётся и редактируется волонтёрами со всего мира. Сейчас сайт доступен на 334 языках и содержит информацию практически на любую тему.
Однако в последнее время растёт обеспокоенность из-за того, что AI создаёт всё больше статей и резюме для сайта. Такие резюме поначалу могут казаться правильными, но при тщательной проверке оказываются полностью ошибочными.
Помимо опасений по поводу недостоверных данных, участники сообщества Wikipedia обнаружили, что генеративный AI ссылается на несуществующие источники и научные работы.
Опасность для Wikipedia заключается в том, что с каждой публикацией непроверенного контента качество сайта может снижаться.
Влияние генеративного AI на Wikipedia
- Недостоверная информация и дезинформация
Миллионы людей каждый день обращаются к Wikipedia за достоверной информацией по темам, влияющим на их жизнь и решения. Однако с появлением на сайте контента, созданного AI, трудно понять, действительно ли кажущаяся точной информация проверена. Это может заставить людей сомневаться в достоверности Wikipedia, когда они сталкиваются с вводящими в заблуждение сведениями.
- Вымышленные ссылки
Такие инструменты, как ChatGPT от OpenAI, собирают информацию из множества источников, но обычно не указывают, откуда она взята. Это может привести к новым формам плагиата и нарушению прав авторов оригинальных материалов. Поскольку для исследователей крайне важно указывать источники, результатом могут стать научные работы с ошибочными ссылками.
- Недостаток эмпатии
Генеративный AI — всего лишь инструмент. Он не способен испытывать человеческие эмоции, например эмпатию. Это отражается на его текстах, делая их скучными и безэмоциональными. Редакторам приходится работать вдвое усерднее, постоянно редактируя статьи и резюме, чтобы привести их в соответствие со стилем сайта.
- Проблемы для будущих моделей
Многие AI-компании обучают свои модели на данных из Wikipedia. Если статьи Wikipedia создаются AI, будущие модели могут зависеть от этих данных, которые способны содержать ошибки и недостоверные сведения.
Согласно отчёту, Wikimedia Foundation, управляющая свободной энциклопедией, планирует создать инструменты, которые помогут волонтёрам выявлять контент, созданный ботами. Однако это не означает, что редакторы больше не столкнутся с проблемами контроля.
Заключение
Хотя некоторые считают, что генеративный AI может положить конец Wikipedia, это утверждение, возможно, преувеличено. Тем не менее по мере появления на Wikipedia всё большего количества контента, созданного AI, сайт может постепенно утрачивать доверие пользователей по всему миру.
