🤖 Bản Tin AI Hằng Ngày

Các nhà nghiên cứu bảo mật đã bày tỏ mối quan ngại về các điểm yếu bảo mật trong mã được tạo ra bởi AI. Mã này được tạo ra bằng cách sử dụng trí tuệ nhân tạo và các thuật toán học máy, thường được thiết kế để tự động hóa các nhiệm vụ và tăng tốc quá trình phát triển. Tuy nhiên, các nhà nghiên cứu đã phát hiện ra rằng mã được tạo ra bởi AI có thể chứa các lỗi bảo mật, điều này có thể đặt người dùng và hệ thống vào tình trạng nguy hiểm. Vấn đề này phát sinh từ việc các thuật toán AI có thể không hiểu đầy đủ ngữ cảnh và sắc thái của mã mà chúng tạo ra. Kết quả là, chúng có thể tạo ra mã dễ bị tấn công hoặc khai thác. Điều này có thể dẫn đến việc mất mát dữ liệu, hệ thống bị sập và các sự cố bảo mật khác. Các nhà nghiên cứu cảnh báo rằng việc sử dụng mã được tạo ra bởi AI trong môi trường sản xuất có thể dẫn đến hậu quả nghiêm trọng. Họ kêu gọi thực hiện các thử nghiệm và xác thực nghiêm ngặt hơn đối với mã được tạo ra bởi AI để đảm bảo tính bảo mật và độ tin cậy của nó. Điều này bao gồm việc thực hiện các kiểm tra và kiểm soát bổ sung để phát hiện và giảm thiểu các điểm yếu bảo mật tiềm ẩn.

Google đang tham gia vào xu hướng "lập trình cảm xúc" với việc ra mắt Stitch, một dự án tiếp theo sau Jules. Thuật ngữ "lập trình cảm xúc" đề cập đến sự quan tâm ngày càng tăng trong việc tạo ra các công cụ lập trình tập trung vào trải nghiệm người dùng và kết nối cảm xúc. Sự tham gia của Google vào lĩnh vực này cho thấy sự thay đổi trong cách tiếp cận lập trình của gã khổng lồ công nghệ, ưu tiên sự dễ sử dụng và giao diện trực quan. Mặc dù chi tiết về Stitch còn khan hiếm, việc phát hành nó như một dự án tiếp theo sau Jules cho thấy Google cam kết phát triển thêm khả năng lập trình cảm xúc của mình. Jules, một dự án trước đó, nhằm mục đích đơn giản hóa quá trình xây dựng và triển khai các model học máy (machine learning model). Với Stitch, Google có thể đang mở rộng khái niệm này, tạo ra một môi trường lập trình thân thiện với người dùng và dễ tiếp cận hơn. Các tính năng và chức năng chính xác của Stitch vẫn còn chưa rõ, nhưng việc phát hành nó có khả năng được theo dõi chặt chẽ bởi cộng đồng công nghệ, đặc biệt là những người quan tâm đến lập trình cảm xúc và trải nghiệm người dùng.

NVIDIA đã giới thiệu Lớp lệnh AI Nhà kho đa tác nhân, một công nghệ được thiết kế để nâng cao hiệu quả hoạt động và trí tuệ chuỗi cung ứng trong các nhà kho. Lớp lệnh AI này cho phép giao tiếp và phối hợp liền mạch giữa các tác nhân khác nhau, bao gồm robot, máy bay không người lái và các hệ thống tự động khác, để tối ưu hóa hoạt động nhà kho. Lớp lệnh AI Nhà kho đa tác nhân sử dụng nền tảng Omniverse của NVIDIA, một bộ công cụ để xây dựng và mô phỏng các môi trường AI phức tạp. Công nghệ này cho phép theo dõi và kiểm soát hoạt động nhà kho theo thời gian thực, cho phép các doanh nghiệp đưa ra quyết định dựa trên dữ liệu và cải thiện khả năng chống chịu của chuỗi cung ứng. Các lợi ích chính của Lớp lệnh AI Nhà kho đa tác nhân bao gồm: - Tăng cường hiệu quả hoạt động thông qua phân bổ nhiệm vụ và tự động hóa được tối ưu hóa - Cải thiện trí tuệ chuỗi cung ứng thông qua theo dõi và phân tích dữ liệu theo thời gian thực - Tăng cường linh hoạt và khả năng mở rộng trong hoạt động nhà kho - Ra quyết định tốt hơn thông qua thông tin chi tiết dựa trên dữ liệu Bằng cách tận dụng công nghệ của NVIDIA, các doanh nghiệp có thể tối ưu hóa hoạt động nhà kho, giảm chi phí và cải thiện hiệu suất chuỗi cung ứng tổng thể.

Tòa Bạch Ốc đã được cho là thể hiện mối quan ngại rằng một nhóm liên kết với Trung Quốc có thể đã truy cập vào mô hình AI mạnh mẽ của Anthropic, Mythos. Theo một báo cáo mới từ Semafor, quyết định của Tòa Bạch Ốc trong việc áp đặt hạn chế xuất khẩu đối với Mythos đã được thúc đẩy một phần bởi nỗi sợ về một rủi ro an ninh quốc gia tiềm năng. Nếu chính phủ Trung Quốc có quyền truy cập vào Mythos, họ có thể cố gắng đảo ngược mô hình, điều này có thể làm tổn hại thông tin nhạy cảm. Anthropic đã không bình luận về báo cáo, nhưng một người phát ngôn cho biết chính phủ không đề cập đến Trung Quốc trong các cuộc thảo luận xung quanh kiểm soát xuất khẩu. Đây không phải là lần đầu tiên mô hình mạnh mẽ của Anthropic bị xâm phạm, vì một nhóm Discord đã được cho là có quyền truy cập vào Mythos trong hai tuần trước khi sự vi phạm được phát hiện. Tòa Bạch Ốc đã không xác nhận báo cáo, và một bài đăng trên X của một cố vấn Trump đã không đề cập đến Trung Quốc, thay vào đó tập trung vào khả năng Fable và Mythos có thể bị "jailbroken".

Hàn Quốc dự kiến sẽ trở thành quốc gia đầu tiên thực hiện "Đạo luật Cơ bản về Trí tuệ Nhân tạo" vào ngày 22 tháng 6. Sự phát triển này đã gây sự quan tâm về cách nó sẽ ảnh hưởng đến hệ thống pháp lý. Lawmadi OS, một hệ thống vận hành pháp lý được hỗ trợ bởi AI của Hàn Quốc, được thiết kế để phân tích câu hỏi và xác minh trích dẫn so với cơ sở dữ liệu luật pháp chính thức của Hàn Quốc (law.go.kr) theo thời gian thực. Hệ thống này sử dụng 60 tác nhân AI chuyên dụng trên 60 lĩnh vực. Nó cũng có các mẫu để trả lời nhanh các câu hỏi thường gặp hoặc lưu trữ các đoạn mã có thể tái sử dụng. Hệ thống hỗ trợ bởi AI này nhằm mục đích tối ưu hóa quá trình pháp lý, có thể dẫn đến việc ra quyết định nhanh hơn và hiệu quả hơn.

Trong một cuộc trò chuyện gần đây, Max Stoiber, một developer tại OpenAI, đã thảo luận về các dự án mã nguồn mở và tác động của chúng đối với ngành công nghiệp công nghệ. Ông đã đề cập đến tầm quan trọng của các dự án mã nguồn mở ít được biết đến, chẳng hạn như react-boilerplate và styled-components, cùng với những dự án nổi bật hơn. Stoiber cũng chia sẻ kinh nghiệm của mình với Spectrum, đã trở thành một phần của GitHub và đóng góp vào sự phát triển của GitHub Discussions. Ngoài ra, ông cũng đề cập đến thành công của Stellate, một bộ nhớ đệm GraphQL đã được Shopify và The Guild mua lại. Công việc của Stoiber trên thư viện plugin và nền tảng ứng dụng của ChatGPT cũng được nhấn mạnh, với trọng tâm là cách các ứng dụng ChatGPT đang tạo ra một bề mặt mới cho phát triển phần mềm.

Viện Allen về Trí tuệ Nhân tạo (AI) đã phát triển một công cụ mới gọi là olmo-eval, được thiết kế để giúp quá trình đánh giá các mô hình ngôn ngữ lớn (LLMs) trong quá trình phát triển. Không giống như các công cụ hiện có, olmo-eval là một ngăn xếp đánh giá tích hợp cho phép đánh giá có thể tái tạo và là mã nguồn mở. Nó được xây dựng trên Tiêu chuẩn Đánh giá Mô hình Ngôn ngữ Mở (OLMES), được giới thiệu vào năm 2024, nhằm tiêu chuẩn hóa điểm chuẩn LLM để dễ dàng so sánh. olmo-eval mở rộng OLMES bằng cách cung cấp nhiều tính linh hoạt hơn trong việc định nghĩa và chạy đánh giá, giúp dễ dàng hơn trong việc tạo thành các thành phần riêng lẻ thành các quy trình công việc lớn hơn. Nó hỗ trợ đánh giá agentic và đa lượt, và cung cấp các công cụ phân tích mạnh mẽ hơn để xác định xem một can thiệp có thực sự cải thiện mô hình hay sự khác biệt là do nhiễu. So với Harbor, một khuôn khổ mở để đánh giá các tác nhân AI, olmo-eval được thiết kế cho phát triển mô hình hàng ngày, cho phép đánh giá và phân tích nhanh chóng hiệu suất của mô hình. Nó cũng cung cấp một đường dẫn đánh giá nhẹ, đây là mặc định, và chỉ sử dụng một thiết lập nặng khi cần thiết. olmo-eval là mã nguồn mở và có sẵn trên GitHub.

Việc chọn sandbox phù hợp cho các tác nhân AI là rất quan trọng để đảm bảo sự tự chủ của chúng không ảnh hưởng đến bảo mật dữ liệu và hệ thống. Các tác nhân AI có thể tạo ra giá trị bằng cách tạo và thực thi mã, nhưng điều này cũng tiềm ẩn nguy cơ về các mối đe dọa không lường trước. Sandboxes cách ly mã được tạo ra bởi AI, hạn chế quyền truy cập và tạo ra một ranh giới an toàn hơn cho các tác nhân hoạt động. Về cơ bản, chúng là máy tính an toàn mà các tác nhân có thể sử dụng mà không gây ra mối đe dọa. Để chọn một sandbox phù hợp, các đội cần xem xét các rủi ro bảo mật liên quan đến việc chạy mã được tạo ra bởi AI. Điều này bao gồm rủi ro của các cuộc tấn công tiêm prompt, nơi một kẻ tấn công khiến tác nhân viết mã làm tổn hại dữ liệu và hệ thống. "Tam giác tử thần" của các điều kiện, được phác thảo bởi Simon Willison, làm tăng rủi ro của các cuộc tấn công như vậy. Một giải pháp sandbox an toàn nên cung cấp các tính năng như: - Chứa chỉ dữ liệu mà tác nhân cần để thực hiện công việc của nó - Chặn tác nhân truy cập vào dữ liệu khác - Hạn chế các điểm cuối ngoài mà tác nhân có thể gửi dữ liệu đến qua internet - Kiểm soát việc sử dụng tính toán và bộ nhớ - Cho phép quyết định tái sử dụng sandbox hay không Khi chọn sandbox, các đội nên đánh giá các giải pháp tiềm năng một cách nghiêm túc để đảm bảo chúng đáp ứng các yêu cầu này.