Talat: Ứng dụng ghi chú cuộc họp AI chạy trên máy tính cá nhân, không cần cloud

Ghi chú cuộc họp AI của Talat lưu trữ trên máy của bạn, không phải trên đám mây

Ứng dụng ghi chú được hỗ trợ bởi AI Granola, trị giá 250 triệu đô la, đã trở thành một công cụ phổ biến trong giới các nhà sáng lập và các nhà đầu tư mạo hiểm trong ngành công nghệ. Nhưng một nhà phát triển tin rằng có nhu cầu về một giải pháp thay thế riêng tư hơn, chỉ chạy cục bộ, có sẵn với một khoản phí duy nhất và không cần đăng ký. Điều đó đã dẫn đến sự ra đời của một ứng dụng Mac mới có tên là Talat. Nhà phát triển Nick Payne, người sống tại Yorkshire, Anh và tự mô tả mình là một "mọt máy tính", cho biết ý tưởng xây dựng một ứng dụng ghi chú AI cục bộ chủ yếu đến từ một loạt các sự trùng hợp thú vị.

"Tôi nghĩ Granola rất tuyệt vời; đó là một ví dụ điển hình về những gì bạn có thể làm với một ứng dụng Electron [một framework để xây dựng các ứng dụng máy tính để bàn] nếu bạn dành đủ tâm huyết và sự chăm sóc," anh nói với TechCrunch. "Khi tôi lần đầu tiên dùng thử, tôi đã rất ngạc nhiên khi nó có thể ghi lại âm thanh hệ thống trên máy Mac của tôi mà không cần ghi video, vốn là giải pháp tiêu chuẩn vào thời điểm đó. Điều đó dẫn đến rất nhiều nghiên cứu, khám phá ra một API mới tương đối ít được ghi chép của Apple."

Để làm cho việc làm việc với API đó (Core Audio Taps, cho phép các nhà phát triển khai thác các luồng âm thanh của Mac) dễ dàng hơn, Payne đã quyết định tạo một thư viện âm thanh mã nguồn mở, AudioTee. "Trong thời gian đó, tôi đang dần dần ghép các công cụ lại với nhau, nhưng tôi không bao giờ tìm thấy bất cứ thứ gì có cảm giác như nó có thể tự đứng vững như một sản phẩm thay vì chỉ là một bản demo công nghệ thú vị," Payne nói. "Các mô hình phiên âm được lưu trữ hiện đại nhất - các nhà cung cấp tương tự như Granola sử dụng - là đáng kinh ngạc, và việc nhìn thấy giọng nói của bạn được hiển thị trên màn hình gần như theo thời gian thực là một điều gì đó rất thú vị. Nhưng tôi luôn cảm thấy khó chịu rằng sự đánh đổi đó đòi hỏi phải cung cấp không chỉ dữ liệu của tôi, mà cả dữ liệu âm thanh của tôi; giọng nói thực tế của tôi," anh nói thêm.

Sau đó, anh tình cờ thấy một bộ công cụ phần mềm có tên là FluidAudio, một framework Swift cho phép AI âm thanh hoàn toàn cục bộ, độ trễ thấp trên các thiết bị Apple. Nó cho phép bạn chạy các mô hình phiên âm nhỏ, nhanh trực tiếp trên Neural Engine của Mac - phần cứng chuyên dụng của Apple để xử lý AI. Đó là mảnh ghép khiến Payne nhận ra rằng anh có thể biến nghiên cứu của mình thành một sản phẩm thực tế - một sản phẩm mà âm thanh của bạn không bao giờ rời khỏi máy Mac của bạn và bản ghi của bạn không được lưu trữ trên máy chủ của một công ty khác.

Talat, được xây dựng cùng với người bạn lâu năm và đồng nghiệp cũ của Payne, Mike Franklin, là kết quả từ sự quan tâm của Payne đối với lĩnh vực âm thanh. Kết quả là một ứng dụng 20 MB, mua một lần, không yêu cầu bạn tạo tài khoản hoặc thậm chí chia sẻ dữ liệu phân tích với các nhà phát triển. Cũng không có phí phát sinh nào.

Mặc dù một số ứng dụng ghi chú AI có thể có nhiều tính năng hơn, Talat cung cấp một bộ tính năng được sắp xếp hợp lý. Nó thu âm thanh từ micro của máy tính của bạn khi bạn đang ở trong các ứng dụng hội họp như Zoom, Teams, Meet và các ứng dụng khác, và phiên âm nó trong thời gian thực. Ứng dụng cố gắng gán người nói trong thời gian thực, nhưng bạn có thể gán lại chúng khi cần thiết. Bạn cũng có thể ghi chú, cộng với chỉnh sửa, xóa hoặc chia các đoạn ghi âm.

Khi cuộc họp kết thúc, một LLM cục bộ tạo ra một bản tóm tắt với các điểm chính, quyết định và mục hành động. Các ghi chú, bản ghi và bản tóm tắt đều có thể tìm kiếm được trong Talat.

Ngoài khía cạnh bảo mật, Payne cho biết mục tiêu là cung cấp cho người dùng nhiều lựa chọn hơn. "Chúng tôi đang hướng tới khả năng cấu hình và cho phép người dùng kiểm soát dữ liệu của họ đi đâu: chọn LLM của riêng bạn, tự động xuất sang [ứng dụng ghi chú] Obsidian, các webhook đẩy dữ liệu ra khi một cuộc họp kết thúc, một máy chủ MCP," đây là một cách tiêu chuẩn để các công cụ AI kết nối với các nguồn dữ liệu bên ngoài, "để lấy nó theo yêu cầu," anh giải thích.

Về mặt kỹ thuật, AI là một hỗn hợp - "chủ yếu được kết nối và trừu tượng hóa đằng sau FluidAudio," Payne lưu ý, người ghi nhận rằng nó đã thực hiện rất nhiều công việc nặng nhọc. Đối với phần tóm tắt, ứng dụng mặc định một mô hình Al có tên là Qwen3-4B-4bit, có thể chạy ngay cả trên phần cứng khá khiêm tốn. Tuy nhiên, người dùng có thể chọn chuyển nó sang bất kỳ nhà cung cấp LLM đám mây nào mà họ chọn, hoặc họ có thể chọn giữa hai biến thể Parakeet - các mô hình nhận dạng giọng nói được phát triển bởi Nvidia - hoặc trỏ nó vào Ollama (một công cụ để chạy các mô hình AI cục bộ), giúp họ kiểm soát trải nghiệm tốt hơn.

Trong thời gian tới, Talat sẽ bổ sung hỗ trợ cho nhiều lựa chọn tích hợp hơn, cũng như tích hợp cho các ứng dụng khác, như Google Calendar và Notion. Khi ra mắt, người dùng có máy tính Mac dòng M (những máy chạy bộ xử lý riêng của Apple, bắt đầu với M1) có thể tải xuống ứng dụng và dùng thử miễn phí với 10 giờ ghi âm trước khi quyết định mua. Talat có giá 49 đô la trong phiên bản phát hành trước này, vẫn đang trong quá trình phát triển tích cực. Khi ứng dụng đạt bản phát hành 1.0, giá sẽ tăng lên 99 đô la. Payne và Franklin đang tự lực tài trợ cho Talat và có kế hoạch giữ sản phẩm cốt lõi là một lần mua duy nhất trong tương lai.