(17) Anthropic предупредила об угрозе существованию человечества из-за развития ИИ
Развитые модели искусственного интеллекта могут представлять угрозу существованию человечества, если не обеспечить надлежащие меры безопасности и контроля. Об этом компания Anthropic, создавшая чат-бота Claude, предупредила в проспекте первичного публичного размещения акций (IPO), опубликованном на сайте Комиссии по ценным бумагам и биржам США.
В документе говорится, что наиболее мощные системы ИИ могут создавать катастрофические или экзистенциальные риски, особенно если их используют во вред, копируют, превращают в оружие или наделяют высокой степенью автономности.
https://dzen.ru/a/auBj7YwtABJAWUwF