Powered by Techcity

Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại ảnh 1

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người – được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Nguồn

Cùng chủ đề

Hưởng lợi từ AI nhưng Google, Meta đều lo sợ rủi ro

Trí tuệ nhân tạo (AI) là chủ đề thảo luận lớn nhất của ngành công nghệ từ khi OpenAI công bố ChatGPT tháng 11/2022. Ngay sau đó, các công ty như Google, Meta, Microsoft… cũng đầu tư mạnh mẽ cho các nỗ lực AI của riêng mình. Big Tech không ngần ngại chia sẻ về những tham vọng đối với AI, nhưng gần đây, họ đang âm thầm giải quyết những rủi ro của công nghệ này đối...

Hàng loạt người nổi tiếng bị hack kênh youtube

Hàng loạt người nổi tiếng bị hack kênh youtube Mới đây, hàng loạt kênh mạng xã hội của nghệ sĩ, người nổi tiếng, nhà sáng tạo nội dung bị hacker tấn công. Một loạt kênh của người nổi tiếng bị hack kênh youtube. Cụ thể, kênh youtube MixiGaming (Phùng Thanh Độ) đã bị tấn công chiếm quyền điều khiển. Hacker sau đó ẩn hết nội dung video và dùng kênh này để livestream nội dung...

Cảnh báo trò giả danh sàn thương mại điện tử, siêu thị điện máy để lừa đảo

Giả mạo logo, hình ảnh thương hiệu, Website, Facebook, Zalo, công văn, con dấu, tài khoản ngân hàng của một số sàn thương mại điện tử (TMĐT), doanh nghiệp có uy tín thương hiệu trong hoạt động kinh doanh để chiếm đoạt tài sản của người dân. Thủ đoạn này ngày càng tinh vi vì vậy gười dân nên thận trọng với các chiêu trò dưới đây để tránh bị sập bẫy những đối tượng lừa đảo: (1)...

EVNNPC CSKH – ứng dụng tiện ích với người dân Mường Khương

Để nâng cao chất lượng chăm sóc khách hàng sử dụng điện, Điện lực Mường Khương đã triển khai ứng dụng chăm sóc khách hàng của Tổng công ty Điện lực Miền Bắc - “EVNNPC CSKH” trên địa bàn. Ứng dụng này mang lại nhiều tiện ích cho người dân như theo dõi lượng điện tiêu thụ, thanh toán hóa đơn, gửi yêu cầu, phản ánh, góp ý... Điện lực Mường Khương đặt mục tiêu đến hết...

Đảm bảo an toàn dữ liệu, thông tin và an ninh mạng

Theo thống kê của Sở Thông tin và Truyền thông, hằng tuần, Hệ thống giám sát an toàn thông tin mạng của tỉnh ghi nhận và ngăn chặn trung bình gần 200 lượt tấn công trái phép vào trung tâm mạng thông tin của tỉnh và các hệ thống thông tin của các cơ quan, đơn vị, địa phương (số lượng các cuộc tấn công ngày càng tăng). Các cơ quan nhà nước với...

Cùng tác giả

Khởi công dự án Trường Mầm non Bắc Lệnh

Quang cảnh lễ khởi công Trường Mầm non Bắc Lệnh. Dự án Trường Mầm non Bắc Lệnh có tổng mức đầu tư gần 15 tỷ đồng; cao 3 tầng, 12 phòng học, được xây dựng trên diện tích 620 m2, tổng diện tích sàn gần 2.000 m2. Chủ đầu tư là Ban...

Công tác phòng ngừa tội phạm từng bước được triển khai theo chiều sâu

Quang cảnh kỳ họp. Theo báo cáo, năm 2024, tình hình tội phạm về trật tự xã hội tiếp tục diễn biến phức tạp, số vụ phạm tội tăng 12,53%. Tội phạm về tham nhũng, kinh tế, buôn lậu tiếp tục diễn biến phức tạp trên nhiều lĩnh vực...

Hiệu quả giao khoán quản lý, vận hành công trình nước sạch nông thôn

Công trình cấp nước sinh hoạt ở thôn Na Nối, xã Bản Xen, huyện Mường Khương, trước đây, được giao cho tổ quản lý cộng đồng quản lý. Nhưng sau thời gian ngắn vận hành, công trình đã xuống cấp, không phát huy hiệu quả sử dụng như thiết kế. Từ...

Chuyển hơn 3 tỷ đồng hỗ trợ các địa phương khắc phục hậu quả thiên tai

Cụ thể, Ban Vận động cứu trợ tỉnh Lào Cai ban hành Quyết định số 39, chuyển 2,94 tỷ đồng cho Ban Vận động cứu trợ huyện Bát Xát để chi hỗ trợ xây dựng điểm trường Y Giang, Trường Mầm non A Mú Sung từ nguồn kinh phí do...

Hội đàm giữa đoàn đại biểu kinh tế thương mại tỉnh Lào Cai ( Việt Nam) và tỉnh Vân Nam (Trung Quốc)

Quang cảnh buổi hội đàm. Tại buổi hội đàm, hai bên đã tập trung trao đổi và thống nhất một số vấn đề như: thúc đẩy xây dựng trung tâm thông quan tại tỉnh Lào Cai và khu vực giám sát tại hai phía cầu đường bộ Bát Xát...

Cùng chuyên mục

Hiệu quả giao khoán quản lý, vận hành công trình nước sạch nông thôn

Công trình cấp nước sinh hoạt ở thôn Na Nối, xã Bản Xen, huyện Mường Khương, trước đây, được giao cho tổ quản lý cộng đồng quản lý. Nhưng sau thời gian ngắn vận hành, công trình đã xuống cấp, không phát huy hiệu quả sử dụng như thiết kế. Từ...

Hội đàm giữa đoàn đại biểu kinh tế thương mại tỉnh Lào Cai ( Việt Nam) và tỉnh Vân Nam (Trung Quốc)

Quang cảnh buổi hội đàm. Tại buổi hội đàm, hai bên đã tập trung trao đổi và thống nhất một số vấn đề như: thúc đẩy xây dựng trung tâm thông quan tại tỉnh Lào Cai và khu vực giám sát tại hai phía cầu đường bộ Bát Xát...

Si Ma Cai nỗ lực giải ngân nguồn vốn đầu tư công

Khởi công tháng 12 năm 2022, công trình đường giao thông vào trung tâm xã Nàn Sín có chiều dài 13 km, tổng đầu tư 84 tỷ đồng. Tranh thủ điều kiện thời tiết thuận lợi, đơn vị thi công đang nỗ lực triển khai các hạng mục, phấn...

Tọa đàm “Giải pháp sinh kế thích ứng và giảm thiểu rủi ro thiên tai tại cộng đồng”

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Nâng cao hiệu quả thực hiện các chính sách hỗ trợ giáo dục

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Nhộn nhịp sàn giao dịch chợ trâu Bắc Hà cuối năm

Phiên chợ trâu Bắc Hà thứ Sáu (ảnh trên), mới 9h, nhưng một số lượng lớn trâu, bò, ngựa đã được người bán và thương lái giao dịch thành công. Đem 5 con trâu từ Lai Châu sang chợ trâu Bắc Hà từ sáng sớm và đã...

Khai mạc hội nghị hợp tác hành lang kinh tế 5 tỉnh, thành phố Việt – Trung lần thứ XI

Phát biểu tại hội nghị, đồng chí Phó Chủ tịch Thường trực UBND tỉnh Hoàng Quốc Khánh (ảnh trên) nhấn mạnh: Thời gian qua, quan hệ đối tác hợp tác chiến lược toàn diện Việt Nam - Trung Quốc phát triển và đạt nhiều kết quả quan...

Sức hút từ những dự án nhà ở xã hội

Dự án nhà ở xã hội Golden Square Lào Cai là dự án lớn nhất tỉnh với quy mô 2.189 căn hộ; trong đó, giai đoạn 1 có 638 căn, dự kiến sẽ hoàn thành giữa năm 2026. Dù mới khởi công nhưng dự án đang tạo sức...

Nhiều chương trình kích cầu tiêu dùng cuối năm

Trên kệ hàng tại các siêu thị, hệ thống bán lẻ trên địa bàn thành phố hiện đang được xếp đầy ắp các sản phẩm để phục vụ nhu cầu mua sắm của người tiêu dùng. Tại siêu thị Go! áp dụng mã giảm giá đối với hơn 2.000...

Tín hiệu vui cho sản xuất dâu tằm Bảo Yên sau mưa lũ

Tạm dừng trồng dâu nuôi tằm kể từ sau dịch Covid-19, đầu năm 2024, được chính quyền vận động, bà Nguyễn Thị Ngoan ở thôn Lỵ 2 - 3, xã Cam Cọn, huyện Bảo Yên đã quyết tâm sửa sang lại nhà tằm, trồng lại cây dâu để tái sản...

Tin nổi bật

Tin mới nhất