Dùng AI viết app: (P3) Sử dụng ChatGPT API

Mình có follow một số SaaS founders ở Twitter, ở đây họ thường chia sẻ về các câu chuyện liên quan tới việc làm sản phẩm.

Saas founders có thể hiểu là những người tạo ra các ứng dụng và người dùng có thể dùng chúng, trả phí hoặc miễn phí.

Mình từng đọc một bài viết chia sẻ rằng sản phẩm của họ giúp họ kiếm được 30,000 USD mỗi tháng nhưng chi phí cho API của ChatGPT chỉ mất hơn 17 USD. Chỉ ~0.05% doanh thu của ứng dụng.

Và thật vậy, chi phí để sử dụng API của ChatGPT thực sự rất rẻ, kể cả với mô hình ChatGPT Plus - gpt-4o. Hiện tại tổng chi phí để sử dụng AI của FastAIRewrite.com từ lúc mình phát triển đến giờ chỉ $0.83.

Vậy nên nếu bạn có khả năng code mà muốn làm cái gì đó hay ho với AI thì cứ thoả mái bắt tay vào làm luôn nha, chi phí cực kỳ hạt dẻ.

Hiểu một cách đơn giản thì nó không khác gì khi chúng ta chat với ChatGPT cả. Chính vẫn là xoay quanh prompt mà mình gửi cho con AI.

Khi chat với ChatGPT thì chúng ta chỉ gửi một đoạn prompt và ChatGPT sẽ lưu lại lịch sử chat của chúng ta. Lịch sử chat chính là nguồn thông tin mà ChatGPT sẽ tham khảo để biết nên trả lời như nào cho các prompt tiếp theo bạn chat.

Khác với khi chat, mỗi khi gọi tới API, chúng ta phải truyền vào cả một conversation - cuộc trò chuyện. Để mô phỏng ví dụ trên, thông tin về conversation mình cần truyền vào request tới API sẽ là:

- Message 1, người gửi: User, nội dung: what's the capital of Vietnam?

- Message 2, người gửi: ChatGPT, nội dung: The capital of Vietnam is Hanoi

- Message 3, người gửi: User, nội dung: How about the biggest city?

- Message 4, người gửi: ChatGPT, nội dung: The biggest city in Vietnam is Ho Chi Minh City (formerly known as Saigon). It is the largest city by population and serves as the country's economic hub.

- Message 5, người gửi: User, nội dung: the most beautiful beach in Vietnam?

Sau đó ChatGPT sẽ trả về phản hồi dựa theo prompt cuối cùng (message 5) và dựa vào các message trước để có cách trả lời phù hợp. Request lúc đó sẽ trông như thế này:

Tóm lại, nếu muốn ChatGPT học hỏi từ lịch sử chat thì khi gửi request tới API thì phải gửi cả những chat từ trước nữa.

Khi đã hiểu cơ chế của ChatGPT API, mình cần suy nghĩ sẽ áp dụng cho FastAI Rewrite như nào.

Khi mình cần rewrite, mình thường viết prompt như này cho ChatGPT:

Khi viết prompt này thì ChatGPT thường trả lời với những chat kèm thêm, như trong ví dụ là "This is rewritten content".

Khi dùng API thì mình chỉ muốn nhận về kết quả là nội dung đã được rewrite, không được kèm với những chat ngoài lề. Để làm như vậy thì cách làm cũng đơn giản, bảo ChatGPT chỉ trả về nội dung được rewrite là được :vv

Ngoài ra, khi rewrite mình muốn AI sẽ viết theo một số tông (tone) giọng và theo yêu cầu nhất định. Do đó mình cần ChatGPT biết thông tin này khi thực hiện rewrite.

Để thực hiện thì mình cần một chat ban đầu để định tình tính cách cho AI, sau đó mới đến lịch sử chat và một số lưu ý khi trả về kết quả. Logic cuối cùng sẽ như dưới đây:

Để AI học hỏi từ lịch sử chat tốt hơn thì mình sẽ cho nó biết đâu là những content được rewrite tốt và không tốt. Để làm điều này thì với mỗi lần rewrite thì mình sẽ coi như có một đoạn chat của user nhận xét về content vừa được viết lại.

Nếu tốt thì sẽ là: "I like it, please continue next time"

Nếu chưa tốt thì là: "No, I don't like it, please improve next time and don't generate the same response if input and prompt are the same"

Đó, tóm lại thì cách mình sử dụng ChatGPT API không khác gì việc mô phỏng lại hành động chat bình thường, khác chỗ là nó rẻ hơn nhiều và không có giao diện đẹp.

---

Phần trước:

- Dùng AI viết app: (P1) Lý do ngại bắt đầu

- Dùng AI viết app: (P2) Chrome Extension đầu tiên

Phần tiếp:

- ... (chưa nghĩ ra)