Mình cảm giác bài viết trước về Alec thật sự quá sơ sài nên hôm nay lấy cảm hứng từ những bài viết của thefour , mình quay lại viết về Alec Radford cho thật chỉnh chu 

Một chút suy nghĩ lo lắng: Thời gian mình không còn nhiều , những hôm đi đường ở HN , mình cảm giác như chết đi sống lại vậy. Mình viết bài này lúc chờ cơm chín =)

Bài viết này mình sẽ không dùng AI để viết vì mình ghét chất xám giả tạo và hoàn hảo đó dù mình làm về AI engineer ahihi. Mình có kinh nghiệm về Computer Vision (detect , track, recognition) , Machine translation , ASR, NLP, API backend =) nên hi vọng sẽ viết cho độc giả yên tâm hơn

Alec Radford là cựu Research Scientist của công ty OpenAI , công ty đã tạo ra cơn địa chấn ChatGPT, bắt đầu làn sóng mạnh xâm chiếm toàn cầu bằng từ khóa AI suốt 4 năm qua. 

Những người thực sự hiểu cách ChatGPT hay LLMs (Large language models - mô hình ngông ngữ lớn)  hoạt động càng thấy nó thật sự tuyệt vời đan xen thấy nhàm chán khi biết quy tắc vận hành , thuật toán đằng sau là gì , may quá không có ma thuật đen nào đằng sau những thuật toán đó. Alec đã là first author của 2 bài báo GPT 1 và GPT 2 , đặt nền móng cho GPT3 thành công ; nên có thể coi Alec là cha để GPT cùng với John Schulman (giống Harry potter cực) và vài người khác.

Họ là những người với cái mái tóc ko được cắt gọn , ko ai biết đến tên ngoại trừ giới nghiên cứu AI ; họ là những người rất giỏi (toán , logic, sáng tạo kỹ thuật, và cởi mở với ý tưởng mới) và đặc biệt họ ko cần ánh đèn sân khấu chiếu về mình . Khoa học cần sự tận tâm và yên tĩnh và những phản biện thật sự sắc bén , một môi trường mà cần khơi dậy tư duy phản biện về kỹ thuật rất sắc (critical think), nơi ý tưởng đập và nảy (bounce idea), nơi mà những cái vụn vặt , drama xã hội , ko cần có nhu cầu xuất hiện. 

Mình đã từng ghét mọt sách , nhưng nhìn lại , chính mình đang muốn dần trở thành phiên bản đó, ít nhất là tránh được drama ngày qua ngày đang muốn ngấu nghiến bởi mọi người ngoài kia. Đặc biệt là Alec ko còn dùng X (twitter, reddit) từ sau DCGAN công bố đến hết 2018. Tuyệt vời. Einstein thời hiện đại sẽ là người ko dùng toktok.

Alec là 1 người đã mở ra cuộc cách mạng về AI hay nói chính xác hơn là cuộc cách mạng về lĩnh vực học sâu (deep learning) trong Computer Vision (với bài báo DCGAN và CLIP), Large Language Models (với bài báo mô hình GPT1 và GPT2), ASR (Autmomatic Speak Recognition) với bài báo Whisper. Việc thống trị 3 mảng khác nhau về AI về hình ảnh , ngôn ngữ và âm thanh là quá nhiều nhưng sao cậu ấy có thể tạo ra 3 cơ sóng thần cho 3 mảng như vậy. 

Để hiểu được sự thiên tài của Alec , bạn cần đi qua 3 bài báo của cậu ấy, đừng lo , mình sẽ chỉ nói theo ngôn ngữ bình dân , vì chính mình cũng ko thể hiểu được ở mức sâu và chi tiết , nhưng đừng lo , mình cảm thấy bản thân đã đứng vững hơn so với lần viết trước về báo của cậu này. Qua xem hết video có mặt Alec trên mạng và đọc kĩ 3 bài báo Whisper, CLIP, Amazon Sentiment Analysis mình hiểu được phần nào về anh bạn này

quãng thời gian thất bại kéo dài từ sau bài báo DC GAN 2015 , lạc vào Reinforcement learning rồi nở rộ nhỏ ở bài báo 2018 về Amazon Sentiment Analysis (3 năm thất bại với rất nhiều ý tưởng, nhưng mỗi lần thất bại , ta sẽ lại mạnh hơn và nở rộ ở bài báo GPT), giới nghiên cứu có người đánh cược chỗ để đi nghiên cứu cách làm sâu hơn : về kiến trúc mạng neuron, về tiền xử lí data, về sự đa dạng data, Alec đã đặt cược vào học sâu và việc scale data sau nhiều ván cược nhầm vị trí nhưng đầy sự học hỏi sau đó. Nghe thì đơn giản nhưng đọc báo rồi bạn mới hiểu , bạn cần hiểu được những phát minh người tiền nhiệm thì mới sáng tạo được (đây là 1 ý trong cách học Higher Abstract Consolidation của mình)