Dùng thử trợ lý ảo riêng AI Companion beta để hỏi đáp, phân tích file cá nhân ngay trên máy tính

AI Companion là một trợ lý ảo AI được HP phát triển và tích hợp sẵn trên những chiếc AI PC của công ty. Đây là một chatbot có thể trả lời câu hỏi của người dùng, phân tích tài liệu mà người dùng đưa vào và đưa ra những gợi ý, lời khuyên hữu ích, đồng thời còn là một agent AI điều khiển nhanh các chức năng trong máy chỉ bằng ngôn ngữ tự nhiên do người dùng nhập vào.

Điểm đặc biệt là nó chạy hoàn toàn dưới local, không cần internet nên sẽ đảm bảo tính riêng tư của dữ liệu người dùng, không có nỗi lo bị dùng đê train AI như đưa lên nhiều nền tảng chatbot AI online khác.

Mình có dùng thử bản beta của AI Companion, xin giới thiệu với mọi người các tính năng chính của ứng dung này cùng một số tình huống dùng thử quen thuộc, qua đó có thể hình dung được các cách sử dụng của AI Companion cũng như các ứng dụng dạng RAG nói riêng.

AI Companion hoạt động thế nào, Làm sao để dùng ?

Về bản chất thì AI Companion vừa là một chatbot AI chạy local, vừa là một hệ thống RAG để người dùng "dạy" cho nó thêm thông tin để làm việc trên các tài liệu đưa vào, vừa là một AI Agent điều khiển các chức năng của máy tính. AI Companion hiện đang chạy model GPT-4o của OpenAI để suy luận và trả lời câu hỏi người dùng. HP cho biết thêm rằng có thể trong tương lai sẽ cập nhật model khác nếu cần thiết.

Trên trang web của HP cho biết rằng toàn bộ những máy next gen AI PC của HP sẽ đều được cài đặt sẵn ứng dụng trợ lý AI Companion. Cụ thể thì hiện có máy bao gồm dòng OmniBook X 14, OmniBook Studio X, Omen AI Max 16, EliteBook Ultra G1i 14, EliteBook 8 Series và EliteDeck 8 Series sẽ được cài sẵn ứng dụng này. Tất nhiên các máy AI PC ra mắt trong tương lai cũng sẽ được hỗ trợ.

HP cho biết thêm là người dùng cũng có thể tải về AI Companion từ Microsoft App Store. Tuy nhiên đó vẫn phải là máy của HP và có số TOP NPU từ 40-60 mới được.



Một lưu ý khác là hiện tại, 1 phiên nói chuyện với AI sẽ có tối đa 8 câu prompt của người dùng nhập vào, nếu nhiều hơn sẽ chuyển thành 1 cuộc nói chuyện khác.

Các tính năng chính của AI Companion

Ứng dụng AI Companion sẽ có 3 nhóm tính năng chính là: Discovery, Analysic và Perform.

Discovery

Với tính năng này, người dùng sẽ đặt câu hỏi với chatbot để truy vấn thông tin. Cái này thì sẽ giống như tính năng hỏi chatbot thông tin hay nhờ chatbot giúp cái gì đó và nó sẽ trả lời.

Mình thử kêu nó gợi ý 10 podcast chủ đề tình yêu để nghe và đây là kết quả trả về.


Một số thông tin khác có thể kêu nó gợi ý nhanh như lên kế hoạch cải thiện chất lượng giấc ngủ, hay chơi môn thể thao nào đó.

Một điểm cần lưu ý. Bởi đây là model chạy local nên kiến thức của nó sẽ bị giới hạn bởi thời điểm mà người ta train tập dữ liệu, do đó những thông tin mang tính thời sự, được cập nhật theo thời gian thực thì model sẽ chưa được huấn luyện nên sẽ dễ không chính xác. Đây chính là đặc điểm hallucianation cố hữu của mô hình ngôn ngữ lớn, cần thận trọng khi sử dụng.

Mặt khác, do model bị giới hạn bởi dữ liệu nó được huấn luyện nên chắc chắn nó cũng sẽ không có những dữ liệu của riêng cá nhân hoặc của công ty người dùng. Tuy nhiên, cái hay là AI Companion cho phép chúng ta "dạy thêm" model bằng cách đưa thêm dữ liệu vào. Đó chính là tính năng Analysic ở bên dưới.

Analysis

Với tính năng này, chúng ta sẽ đưa tài liệu vào cho AI Companion đọc, sau đó sẽ cùng hợp tác với người dùng để phân tích, truy vấn thông tin trong đó. Đây chính là kỹ thuật RAG, nôm na là dạy thêm nhanh cho model các thông tin mà chúng ta cần. Sau đó, model sẽ dùng khả năng suy luận mà nó có sẵn để phân tích dữ liệu đặc thù của chúng ta đưa vào để thực hiện được những tác vụ mà nó chưa được dạy trước đó. Chính điều này đã mở ra những tình huống sử dụng rất hữu ích của AI Companion. Bên dưới đây mình sẽ thử một số tình huống.

AI Companion cho phép chúng ta tạo ra các thư viện, trong đó chứa các tài liệu của cùng một chủ đề mà chúng ta muốn kêu AI Companion phân tích. Hiện ở bảng beta này, AI Companion cho phép tạo tối đa cùng lúc 5 thư viện như vậy. Bên trong mỗi thư viện, người dùng có thể đưa vào các định dạng file văn bản phổ biến như docx, txt, PDF và ppt. Mình thử chép table bên excel vào một file docx và đưa vào thì nó cũng nhận được luôn. Tối đa mỗi thư viện sẽ cho chứa tổng cộng 100MB tài liệu.

Cách đưa data vào AI Companion cũng rất dễ, chỉ cần bấm tạo thư viện và kéo thả file muốn dạy AI vào là xong. Lúc đó AI sẽ mất vài phút tùy độ dài ngắn của tài liệu để "tiêu thụ" thông tin trong tài liệu và sau đó là chúng ta có thể truy vấn. Tất các thông tin này sẽ được nằm dưới máy tính của người dùng nên sẽ không ngại vấn đề rò rỉ dữ liệu lên mạng. Mặt khác, khi sử dụng tính năng phân tích này, AI Companion sẽ không lấy data lung tung, chỉ tập trung vào những nguồn chúng ta đưa vào nên mức độ cô lập thông tin khá cao.

Đọc sách, hỗ trợ học tập

Thí dụ này, mình đưa nguyên một cuốn sách về AI Agent dài khoảng 500 trang vào. AI Companion chạy trên chiếc HP OmniBook X 14 chạy Snapdragon X Plus sẽ mất cỡ gần 2 phút để hoàn tất quá trình xử lý ban đầu thông tin và hình thành thư viện. Sau đó mình có thể kêu nó liệt kê các thông tin chính của toàn bộ cuốn sách để nắm cấu trúc của nó.

Sau đó mình kêu nó lên kế hoạch chi tiết, thực hành để mình đọc hết cuốn sách trong vòng 7 ngày. Kết quả trả về rất tập trung và ưng ý, miêu tả chi tiết kế hoạch, từng ngày đọc nội dung nào, cần nắm ý chính nào,… rất hay. Cái này mình nghĩ bạn nào đang đi học hoặc nghiên cứu có thể dùng nó để học giáo trình, kêu nó tạo câu hỏi vấn đáp để ôn bài, tạo flashcard,….

Phân tích báo cáo tài chính

Trong tình huống này, mình đưa vào một báo cáo tài chính và thử kêu nó phân tích, trả lời những câu hỏi về nguồn thu chủ yếu,… Cũng là một cách hay để nắm được sơ bộ các báo cáo tài chính trong tình huống cần đọc rất nhiều tài liệu giống như vậy để lấy nhanh thông tin.

Tra cứu văn bản pháp luật

Ở đây, mình thử đưa vào 4 thông tư, nghị định về chế độ kế toán, rồi thông tư sửa đổi bổ sung nghị định ban hành trước đó. Sau đó mình đặt câu hỏi để kêu nó tổng hợp các thông tin và trích ra cái mình cần. Tình huống này khá thích hợp cho các bạn nào đọc những văn bản pháp luật, tổng hợp nhiều nguồn để suy luận và trích ra thông tin.

Phân tích số liệu, phản hồi khách hàng,…

Trong tình huống này, mình thử đưa vào file báo cáo bán hàng chứa khoảng 1000 dòng dữ liệu bán hàng, chi tiết từng cửa hàng, loại hàng bán, thuộc danh mục nào, số lượng bao nhiêu, rồi thanh toán bằng phương thức nào,… Sau đó kêu AI Companion cho xem tỷ trọng của thanh toán tiền mặt và thẻ, AI sẽ tự đi lấy cột thanh toán ra, đếm số lượng rồi thực hiện phép tính để tính tỷ trọng của từng mục và trả về kết quả cuối cùng cho mình.

Một ý tưởng khác nữa là có thể đưa file tổng hợp các phản hồi của khách hàng cho một dịch vụ nào đó để AI phân tích và trích xuất ra thông tin tổng thể các ý kiến khách hàng. Mình thấy tình huống này dùng hệ thống dạng RAG như AI Companion sẽ rất thích hợp bởi hoàn toàn đảm bảo an toàn dữ liệu ngay trên máy, không sợ tải các file nhạy cảm đi lung tung. Gần đây mình đã build phụ ông bạn mình một cái tương tự như vậy để phân tích file cá nhân, do đó nếu laptop có sẵn thì sẽ tiện hơn rất nhiều.

Perform

Bản chất đây chính là tính năng AI Agent hiện đang rộ lên toàn cầu bởi tính tiện lợi của nó. Cơ bản thì sẽ có một đội AI nhỏ sẽ cùng nhau đi thực thi lệnh đơn giản của người dùng. Thí dụ như hồi xưa muốn thay đổi thời gian sáng của màn hình trước khi tự đưa vào chế độ ngủ, chúng ta phải mò vào Setting trong Control Panel của Windows, rồi qua nhiều bước khác mới chỉnh được. Như thế thì khá kém thân thiện với người dùng vì không phải ai cũng dễ dàng làm được. Bây giờ với tính năng AI thì người dùng chỉ cần nhập lệnh là "tôi muốn…." và sau đó AI nó sẽ tự đi chỉnh máy cho mình, rất tiện.



Cơ bản thì để làm được chuyện này, đơn giản nhất là nhà sản xuất như HP tự làm cho máy của họ thì sẽ ổn định hơn, cũng đảm bảo an toàn hơn là dùng của một bên thứ 3. Hiện ở bản beta này, trong giao diện Perform của AI Companion sẽ gợi ý sẵn một số lệnh mà chúng ta có thể kêu AI chỉnh máy tính, thí dụ như đổi chuột trái phải, thay đổi độ sáng màn hình, điều chỉnh cài đặt âm thanh, tắt mở mic, bật khử ồn hay xóa phông của Poly Studio,… tất cả chỉ cần ra lệnh bằng ngôn ngữ tự nhiên là xong.

Mình nghĩ rằng sắp tới ở những bản cập nhật chính thức, AI Companion sẽ có thể điều khiển được nhiều thứ hơn trong máy tính, không cần phải đi tìm cách chỉnh như xưa giờ nữa. Đây cũng có thể xem như cách để chúng ta phần nào hình dung được cách mà chúng ta xài máy tính sẽ được thay đổi như thế nào trong thời gian tới với sự hiện hữu của AI.

Với AI Companion beta ở thời điểm hiện tại, mình thấy được những ưu điểm là:

• Cài đặt sẵn trên máy, tương thích cực kỳ tốt với phần cứng của máy.
• Giao diện trực quan, dễ dàng sử dụng.
• Chatbot hỗ trợ hoàn toàn tiếng Việt từ lệnh của người dùng và phản hồi của AI
• Sử dụng model mới, mạnh là GPT-4o của OpenAI, cho khả năng suy luận tốt, độ chính xác cao.
• Tính năng phân tích tài liệu dễ dàng, tốc độ phản hồi nhanh, có trích dẫn chính xác nguồn của thông tin để kiểm tra lại khi muốn.
• Tính năng Perform điều chỉnh cài đặt máy tính đơn giản cho mọi người bằng ngôn ngữ tự nhiên
• Tất cả chạy dưới local, đảm bảo bảo mật dữ liệu người dùng.

Tuy nhiên sắp tới, mình vẫn muốn có thêm tính năng như:

• Điều khiển thêm nhiều tình huống và ứng dụng khác của máy tính.
• Thêm tính năng AI Search trong Discovery để người dùng tìm luôn thông tin theo thời gian thực nếu muốn.
• Mở giới hạn nhập tài liệu và thư viện vào AI Companion