Startup Underdog ra mắt mô hình tạo giọng nói Woof siêu nhỏ chỉ 32MB chạy trên trình duyệt

Công ty khởi nghiệp Underdog vừa giới thiệu bản thử nghiệm tương tác cho mô hình chuyển văn bản thành giọng nói (text-to-speech - TTS) mang tên Woof với kích thước chỉ 31,7MB. Mô hình này đủ nhẹ để chạy mượt mà ngay trên trình duyệt web và các thiết bị biên (edge devices) mà không cần kết nối Internet.

Trải nghiệm công nghệ AI giọng nói không phụ thuộc đám mây

Để minh chứng cho năng lực của Woof, Underdog đã phát hành một trò chơi mang phong cách công nghệ cổ điển (retro tech) với bối cảnh căn phòng chứa máy đánh chữ, đèn bàn và màn hình CRT. Người dùng có thể gõ bất kỳ đoạn văn bản nào trên máy đánh chữ để mô hình đọc lại bằng âm thanh tức thì, hoặc vặn núm điều chỉnh để tạo ra các giai điệu âm nhạc khác nhau.

Điểm cốt lõi là toàn bộ quá trình xử lý diễn ra trực tiếp trên thiết bị của người dùng mà không truyền dữ liệu về bất kỳ máy chủ đám mây nào. Trò chơi cũng đưa ra thông điệp cảnh báo về những nhà cung cấp dịch vụ đám mây "xâm phạm", ngụ ý chỉ trích sự phụ thuộc quá mức vào các mô hình AI đám mây truyền thống.

Thông số kỹ thuật và hệ sinh thái mô hình cục bộ

Mô hình Woof sở hữu 31 triệu tham số (31 million parameters) và được Underdog phát hành mã nguồn mở để mọi người tự do tải về. Dù không hướng đến việc thay thế hoàn toàn các hệ thống AI đám mây khổng lồ, kích thước siêu nhỏ này mở ra tiềm năng lớn cho:

• Trợ lý ảo cục bộ (local assistants): Hoạt động ngay cả khi ngắt kết nối mạng, đảm bảo độ trễ gần như bằng không.
• Bảo mật dữ liệu cá nhân: Người dùng sở hữu hoàn toàn giọng nói và nội dung trao đổi mà không lo rò rỉ dữ liệu nhạy cảm.
• Sản xuất nội dung âm thanh: Ứng dụng tạo podcast cá nhân hóa hoặc lồng tiếng tự động trực tiếp trên điện thoại và máy tính xách tay.

Trước khi công bố Woof, Underdog từng cho ra mắt Bark – một mô hình chuyển giọng nói thành văn bản (speech-to-text) có dung lượng 167MB phục vụ tác vụ ghi chép và phiên âm trên thiết bị biên. Nhóm phát triển cũng thử nghiệm mô hình ngôn ngữ lớn 27 tỷ tham số (27B parameters) có khả năng vận hành trực tiếp trên laptop thông thường.

Chiến lược AI cá nhân hóa và quyền sở hữu dữ liệu

Sigil Wen, nhà sáng lập Underdog, cho biết ông bắt đầu dự án vì muốn tự xây dựng một hệ sinh thái AI độc lập, thay vì phải gửi dữ liệu ghi chú công việc cá nhân lên các dịch vụ bên thứ ba. Ông nhận định rằng trong vài tháng tới, người dùng hoàn toàn có thể chạy hầu hết các mô hình AI tiên tiến nhất hiện nay ngay trên phần cứng sẵn có.

Sự trỗi dậy của các giải pháp xử lý giọng nói cục bộ như Woof đánh dấu bước chuyển dịch quan trọng sang xu hướng AI bảo mật. Độc giả quan tâm đến các giải pháp công nghệ giọng nói và nền tảng xử lý âm thanh số có thể tham khảo thêm tại bevoice.net.

Nguồn: TechCrunch