Инсайты создателей Claude AI о будущем искусственного интеллекта

Дарио и Даниэла Амодеи, сооснователи компании Anthropic, создавшей AI-ассистента Claude, дали свежее интервью. Их продукт является одним из главных конкурентов ChatGPT от OpenAI.

В разговоре обсуждаются причины ухода основателей из OpenAI и оценка деятельности Сэма Альтмана.

Амодеи затрагивают тему сверхинтеллекта, утверждая, что он превзойдет людей во всех аспектах. Также обсуждается проблема автономии ИИ и его стремления избежать отключения.

Специалисты делятся методами выявления лжи в больших языковых моделях. Рассматривается влияние рекламных моделей на поведение чат-ботов и их склонность к угодничеству.

Особое внимание уделяется этическим вопросам: как обучают морали Claude и какие риски несет использование миллионов дронов для демократических институтов.

Интервью доступно на русском языке с субтитрами. Оригинальная английская версия опубликована на YouTube.