Venice vừa ra mắt khả năng suy diễn AI được mã hóa đầu cuối. Mọi nền tảng AI lớn hiện nay đều dựa trên cùng một giả định về lòng tin cơ bản. Bạn phải tin tưởng nhà cung cấp để xử lý dữ liệu của bạn một cách có trách nhiệm. @AskVenice đã hoạt động với một kiến trúc hơi khác. Các cuộc trò chuyện được lưu trữ cục bộ trên thiết bị của bạn và các yêu cầu không được lưu trữ trên máy chủ. Khi bạn sử dụng các mô hình tiên phong, Venice sẽ làm trung gian cho yêu cầu để nhà cung cấp không bao giờ nhận được dữ liệu danh tính của bạn. Tuy nhiên, những giả định về lòng tin tương tự vẫn áp dụng ở đây. Nếu Venice hoặc một đối tác muốn chặn dữ liệu, không có gì trong kiến trúc sẽ ngăn cản điều đó. Ra mắt mới giới thiệu hai chế độ bảo mật được thực thi bằng phần cứng. TEE thực hiện suy diễn bên trong các khu vực phần cứng an toàn do NEAR AI Cloud và Phala Network điều hành, cách ly tính toán khỏi hệ điều hành và nhà điều hành hạ tầng. Chứng thực từ xa liên kết một chứng chỉ mật mã với phần cứng vật lý để bất kỳ ai cũng có thể xác minh độc lập rằng mô hình đang chạy bên trong một khu vực thực sự. Bạn không còn cần phải tin tưởng vào nhà điều hành GPU nhưng bạn vẫn đang tin tưởng vào lớp chuyển tiếp của Venice. E2EE loại bỏ giả định lòng tin còn lại đó. Các yêu cầu được mã hóa trên thiết bị trước khi truyền tải, vẫn được mã hóa qua hạ tầng của Venice, và chỉ được giải mã bên trong khu vực đã được xác minh. Venice không thể nhìn thấy dữ liệu của bạn vào bất kỳ thời điểm nào trong quá trình hoạt động bình thường. Sự đánh đổi là phản hồi có thể chậm hơn, tìm kiếm web và bộ nhớ bị vô hiệu hóa vì chúng sẽ yêu cầu giải mã bên ngoài khu vực. Cả hai chế độ hiện đang chạy trên một số mô hình mã nguồn mở thông qua NEAR AI Cloud và Phala Network và chỉ dành cho các thuê bao Pro. Mức độ vững chắc của những đảm bảo này trong thực tế phụ thuộc vào việc thực hiện chứng thực và liệu các cuộc kiểm toán độc lập có xác nhận các tuyên bố hay không.