«Мы должны быть осторожны, — сказал Сэм Альтман в интервью ABC News. — Я думаю, люди должны быть довольны, что мы немного напуганы».

В разговоре, посвященном недавнему выходу нового поколения языковой модели GPT-4 Альтман в очередной раз подтвердил свою позицию относительно регулирования ИИ: оно необходимо, как и участие общества. Обратная связь пользователей ChatGPT помогает ограничить потенциальные негативные последствия. И добавил, что находится в «постоянном контакте» с правительством.

ChatGPT, появившийся в открытом доступе несколько месяцев назад, уже считается самым быстро растущим приложением в истории — количество активных пользователей перевалило за 100 миллионов. Для сравнения, Инстаграму потребовалось на этой три года, ТикТоку — девять месяцев.

Признавая успех своего продукта, Альтман, тем не менее, видит и определенные риски, связанные с его внедрением. «В особенности меня тревожит, что эти модели могут быть использованы для масштабной дезинформации, — сказал он. — Теперь, когда они научились лучше писать компьютерный код, их могут использовать для активных кибератак». Сами по себе они не опасны, но могут стать мощным инструментом в руках людей.

«Другие люди могут не придерживаться таких ограничений, которые накладываем на себя мы, — добавил он. — Общество, я полагаю, обладает ограниченным запасом времени, чтобы понять, как на это реагировать, как это регулировать, как это использовать».

Возможность дезинформировать общество Альтман считает главной опасностью генеративных моделей. «То, о чем я пытаюсь предостеречь людей больше всего, я зову „проблемой галлюцинаций“. Модель с уверенностью утверждает нечто, что считает фактом, хотя она выдумала все с начала и до конца», — сказал он.

Эта проблема заложена в природе модели: она создавалась для написания художественных текстов и использует принципы дедуктивного мышления, а не факты. GPT предсказывает следующее слово на основании огромного массива прочитанных предложений, где это слово используется. Со временем, как надеется Альтман и его коллеги, модель разовьет в себе способность к рассуждению и научится использовать интернет для того, чтобы отделить факты от вымысла. Например, GPT-4 на 40% чаще дает точную информацию, чем предыдущая версия. Однако и ее пока не следует использовать в качестве основного источника информации.

Еще одна опасность, исходящая от этой технологии — рост безработицы. По мнению Альтмана, в такая ситуация вполне вероятно возникнет, причем в самом ближайшем будущем. «Я думаю, через пару поколений человечество докажет, что способно отлично адаптироваться к крупным технологическим сдвигам. Но если такое происходит менее чем за десять лет, некоторые из таких сдвигов… Это меня тревожит больше всего», — заявил глава OpenAI.

Впрочем, Сэм Альтман убежден, что «творческий потенциал человечества безграничен, и мы найдем новую работу. Мы найдем, чем заняться».