Trong khi ChatGPT từ OpenAI nổi lên như một hiện tượng và luôn đứng đầu danh sách những ứng dụng AI được sử dụng và nhắc đến nhiều nhất trên thế giới thì Google được đánh giá rằng đang bị tụt lại phía sau dù đã tiên phong trong việc cho ra mắt PaLM – module xử lý ngôn ngữ thông minh từ giữa năm 2022. Tuy nhiên, mới đây tại Hội nghị các nhà phát triển Google I/O 2023 của mình, gã khổng lồ tìm kiếm này đã công bố về mô hình ngôn ngữ lớn mới PaLM 2, là phiên bản nâng cấp của PaLM và cũng là mô hình mới nhất được tung ra trong cuộc chạy đua AI từ Google.

Đầu tiên cần phải nhắc lại về định nghĩa của LLM – Large Language Model (Mô hình ngôn ngữ lớn) đứng sau khả năng vi diệu của các ứng dụng AI.

LLM là một dạng thuật toán Deep Learning có thể khai thác kiến thức từ những kho dữ liệu khổng lồ từ đó tiến hành nhận dạng, phân tích, tóm tắt, dịch, tạo văn bản,….Ngoài ra chúng còn hỗ trợ cho việc viết phần mềm, phát triển y tế, nghiên cứu khoa học và nhiều lĩnh vực khác.

Dựa trên những nguyên lý đó, PaLM 2 được giới thiệu là ngôn ngữ thế hệ tiếp theo của Google, với khả năng mã hóa, lý luận và xử lý đa ngôn ngữ vượt trội.

Mã hóa

PaLM 2 đã được đào tạo trước trên một số lượng lớn bộ dữ liệu mã nguồn có sẵn công khai. Điều này có nghĩa là nó vượt trội ở các ngôn ngữ lập trình phổ biến như Python và JavaScript, nhưng cũng có thể tạo mã chuyên dụng bằng các ngôn ngữ như Prolog, Fortran và Verilog.

Lý luận

Bộ dữ liệu trên phạm vi rộng của PaLM 2 bao gồm các bài báo khoa học và các trang web có chứa các biểu thức toán học. Kết quả là, nó thể hiện các khả năng được cải thiện về logic, lý luận thông thường và toán học.

Xử lý đa ngôn ngữ:

PaLM 2 được đào tạo chuyên sâu hơn về văn bản đa ngôn ngữ để giúp nó cải thiện đáng kể khả năng hiểu các sắc thái của ngôn ngữ bao gồm thành ngữ, bài thơ và câu đố.

Dù không được công khai về dữ liệu đào tạo tuy nhiên Google xác nhận rằng PaLM 2 đã được đào tạo trên 3,6 ngàn tỷ token – lớn hơn gần 5 lần so với PaLM, điều này cho phép nó có thể lập trình, giải toán và sáng tạo những nội dung phức tạp hơn rất nhiều. Bên cạnh đó, Google đã đào tạo PaLM 2 bằng hơn 100 ngôn ngữ và 20 ngôn ngữ lập trình khác nhau, khiến nó có khả năng hiểu sâu và dịch thuật chính xác hơn.

• Ít tham số, nhiều dữ liệu: Ý tưởng chia tỷ lệ kích thước mô hình và kích thước tập dữ liệu đào tạo thành các tỉ lệ tối ưu giúp cho PaLM 2 cung cấp ít tham số hơn, kích thước nhỏ hơn, từ đó tốn ít chi phí hơn nhưng mang lại hiệu suất tổng quát tốt hơn so với PaLM.
• Bộ dữ liệu đào tạo đa ngôn ngữ: Trước đây PaLM sử dụng bộ dữ liệu đào tạo chủ yếu bằng văn bản tiếng Anh, trong khi PaLM 2 đã được cải thiện kho ngữ liệu với đa dạng ngôn ngữ hơn, không chỉ có hàng trăm ngôn ngữ con người và lập trình, còn có các tài liệu về toán học, khoa học, trang web,…

Tại Hội nghị I/O, Google đã công bố hơn 25 sản phẩm và tính năng mới do PaLM 2 cung cấp. Trong đó có thể kể đến:

• Chatbot Bard: Khả năng xử lý đa ngôn ngữ được cải thiện giúp mở rộng Bard sang các ngôn ngữ mới.
• Các dịch vụ từ Workspace bao gồm Gmail, Tài liệu, Trang tính, Trình bày,…đều có thể khai thác khả năng của PaLM 2 để tăng hiệu quả và tốc độ xử lý công việc.
• API PaLM: PaLM 2 cung cấp tài nguyên để xây dựng các ứng dụng AI tổng quát tại Google

Và nhiều ứng dụng khác trong Y Tế và lập trình đã, đang và sẽ được tích hợp với PaLM 2 để mang lại những tính năng vượt trội như Med-PaLM 2, Sec-PaLM,…

Tuy Google luôn nỗ lực để dẫn đầu trong cuộc đua AI vốn đang rất bùng nổ, không thể phủ nhận được rằng bất cứ sản phẩm công nghệ mới nào cũng có khả năng sai sót và đi kèm những hạn chế nhất định. Không chỉ riêng PaLM 2, tất cả những sản phẩm phát triển từ AI hiện nay đều chỉ mang tính chất hỗ trợ sáng tạo và vẫn chưa được chuẩn hóa để bảo vệ công việc và người sáng tạo. Do đó vẫn còn rất nhiều những vấn đề cần được giải quyết để Google nói riêng và ngành công nghệ AI nói chung có thể tự tin khẳng định vị thế sản phẩm của mình trên thị trường số.