В мире науки и технологий все больше места занимают нейросети и искусственный интеллект (ИИ), о чем недавно заговорили в научном рейтинге журнала Nature. Эти технологии открывают новые горизонты в исследованиях, но вместе с этим несут и серьезные риски.
Искусственный Интеллект как незаменимая помощница в научных работах
Искусственный интеллект стал незаменимым помощником в научных работах. Он участвует в создании текстового сопровождения для презентаций, заявок на гранты и программ учебных занятий, а также пишет компьютерный код. Некоторые ученые даже обсуждают свои идеи с ним, как будто он – настоящий человек.
Глубокое и масштабное влияние ChatGPT на науку
Во многих отношениях ChatGPT оказывал глубокое и масштабное влияние на науку в течение последних лет. Единственная задача ChatGPT – продолжать диалоги по лекалам образов, которыми он был обучен. Но вместе с этим он меняет подход к работе некоторых ученых и их методы исследований.
Опасность использования больших языковых моделей
Но эта технология также и опасна. Автоматизированные собеседники могут использоваться мошенниками и плагиаторами; если их не контролировать, они способны нанести непоправимый вред общему корпусу научных знаний. В интернет уже стала просачиваться информация, которая была создана ИИ и которую можно считать секретной, а некоторые ученые признавались, что используют ChatGPT для написания статей, умалчивая об этом.
Ошибки и предвзятость в генеративном ИИ
Большие языковые модели выстраивают модель мира, отображая языковые взаимосвязи, а затем выдает правдоподобные выборки из этого распределения, не имея понятия об оценке истинности или ложности. Это приводит к тому, что программы воспроизводят исторические предрассудки или неточности, которые были получены ими как обучающие данные, а также попросту выдумывают информацию — например, несуществующие научные ссылки.
Эмили Бендер и синтетические машины
Эмили Бендер, специалист по компьютерной лингвистике из Университета Вашингтона в Сиэтле, не видит подходящих способов использовать подобного рода изобретения. Она называет их не иначе как “синтетическими машинами, выдающими текст”. По ее словам, ChatGPT оказывает большое влияние на окружающую среду. Он не чужд предубеждений, которые
