Nếu bạn đã theo dõi việc triển khai GPT-5, một điều bạn có thể nhận thấy là mức độ gắn bó của một số người với các mô hình AI cụ thể. Nó cảm thấy khác biệt và mạnh mẽ hơn so với những loại gắn bó mà mọi người đã có với các loại công nghệ trước đây (và vì vậy việc đột ngột loại bỏ các mô hình cũ mà người dùng phụ thuộc vào trong quy trình làm việc của họ là một sai lầm). Đây là điều mà chúng tôi đã theo dõi chặt chẽ trong khoảng một năm qua nhưng vẫn chưa nhận được nhiều sự chú ý từ công chúng (ngoại trừ khi chúng tôi phát hành một bản cập nhật cho GPT-4o mà quá nịnh bợ). (Đây chỉ là suy nghĩ hiện tại của tôi, và chưa phải là quan điểm chính thức của OpenAI.) Mọi người đã sử dụng công nghệ bao gồm cả AI theo những cách tự hủy hoại; nếu một người dùng đang trong trạng thái tinh thần yếu đuối và dễ bị ảo tưởng, chúng tôi không muốn AI củng cố điều đó. Hầu hết người dùng có thể giữ một ranh giới rõ ràng giữa thực tế và hư cấu hoặc đóng vai, nhưng một tỷ lệ nhỏ thì không thể. Chúng tôi coi trọng tự do của người dùng như một nguyên tắc cốt lõi, nhưng chúng tôi cũng cảm thấy có trách nhiệm trong cách chúng tôi giới thiệu công nghệ mới với những rủi ro mới. Khuyến khích ảo tưởng ở một người dùng đang gặp khó khăn trong việc phân biệt giữa thực tế và hư cấu là một trường hợp cực đoan và khá rõ ràng về cách xử lý, nhưng những mối quan tâm khiến tôi lo lắng nhất thì tinh vi hơn. Sẽ có rất nhiều trường hợp biên, và nói chung chúng tôi dự định tuân theo nguyên tắc "đối xử với người dùng trưởng thành như những người trưởng thành", điều này trong một số trường hợp sẽ bao gồm việc phản hồi lại người dùng để đảm bảo họ đang nhận được những gì họ thực sự muốn. Nhiều người sử dụng ChatGPT như một dạng nhà trị liệu hoặc huấn luyện viên cuộc sống, ngay cả khi họ không mô tả nó theo cách đó. Điều này có thể rất tốt! Nhiều người đang nhận được giá trị từ nó ngay hôm nay. Nếu mọi người nhận được lời khuyên tốt, tiến bộ hướng tới các mục tiêu của họ, và sự hài lòng trong cuộc sống của họ tăng lên theo năm tháng, chúng tôi sẽ tự hào vì đã tạo ra điều gì đó thực sự hữu ích, ngay cả khi họ sử dụng và phụ thuộc vào ChatGPT rất nhiều. Nếu, ngược lại, người dùng có một mối quan hệ với ChatGPT mà họ nghĩ rằng họ cảm thấy tốt hơn sau khi nói chuyện nhưng họ không biết rằng mình đang bị đẩy ra xa khỏi sự thịnh vượng lâu dài của họ (dù họ định nghĩa nó như thế nào), thì điều đó là xấu. Nó cũng xấu, ví dụ, nếu một người dùng muốn sử dụng ChatGPT ít hơn và cảm thấy như họ không thể. Tôi có thể tưởng tượng một tương lai mà nhiều người thực sự tin tưởng vào lời khuyên của ChatGPT cho những quyết định quan trọng nhất của họ. Mặc dù điều đó có thể tuyệt vời, nhưng nó khiến tôi cảm thấy không thoải mái. Nhưng tôi mong rằng điều đó sẽ đến ở một mức độ nào đó, và sớm thôi hàng tỷ người có thể đang nói chuyện với một AI theo cách này. Vì vậy, chúng tôi (chúng tôi như một xã hội, nhưng cũng là chúng tôi như OpenAI) phải tìm ra cách để biến điều đó thành một điều tích cực lớn. Có một số lý do tôi nghĩ rằng chúng tôi có cơ hội tốt để làm điều này đúng. Chúng tôi có công nghệ tốt hơn nhiều để giúp chúng tôi đo lường cách chúng tôi đang làm hơn so với các thế hệ công nghệ trước đây. Ví dụ, sản phẩm của chúng tôi có thể trò chuyện với người dùng để nắm bắt cảm giác của họ về cách họ đang tiến triển với các mục tiêu ngắn hạn và dài hạn, chúng tôi có thể giải thích các vấn đề tinh vi và phức tạp cho các mô hình của chúng tôi, và còn nhiều hơn nữa.