Powered by Techcity

Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại ảnh 1

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người – được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Nguồn

Cùng chủ đề

Hưởng lợi từ AI nhưng Google, Meta đều lo sợ rủi ro

Trí tuệ nhân tạo (AI) là chủ đề thảo luận lớn nhất của ngành công nghệ từ khi OpenAI công bố ChatGPT tháng 11/2022. Ngay sau đó, các công ty như Google, Meta, Microsoft… cũng đầu tư mạnh mẽ cho các nỗ lực AI của riêng mình. Big Tech không ngần ngại chia sẻ về những tham vọng đối với AI, nhưng gần đây, họ đang âm thầm giải quyết những rủi ro của công nghệ này đối...

Hàng loạt người nổi tiếng bị hack kênh youtube

Hàng loạt người nổi tiếng bị hack kênh youtube Mới đây, hàng loạt kênh mạng xã hội của nghệ sĩ, người nổi tiếng, nhà sáng tạo nội dung bị hacker tấn công. Một loạt kênh của người nổi tiếng bị hack kênh youtube. Cụ thể, kênh youtube MixiGaming (Phùng Thanh Độ) đã bị tấn công chiếm quyền điều khiển. Hacker sau đó ẩn hết nội dung video và dùng kênh này để livestream nội dung...

Cảnh báo trò giả danh sàn thương mại điện tử, siêu thị điện máy để lừa đảo

Giả mạo logo, hình ảnh thương hiệu, Website, Facebook, Zalo, công văn, con dấu, tài khoản ngân hàng của một số sàn thương mại điện tử (TMĐT), doanh nghiệp có uy tín thương hiệu trong hoạt động kinh doanh để chiếm đoạt tài sản của người dân. Thủ đoạn này ngày càng tinh vi vì vậy gười dân nên thận trọng với các chiêu trò dưới đây để tránh bị sập bẫy những đối tượng lừa đảo: (1)...

EVNNPC CSKH – ứng dụng tiện ích với người dân Mường Khương

Để nâng cao chất lượng chăm sóc khách hàng sử dụng điện, Điện lực Mường Khương đã triển khai ứng dụng chăm sóc khách hàng của Tổng công ty Điện lực Miền Bắc - “EVNNPC CSKH” trên địa bàn. Ứng dụng này mang lại nhiều tiện ích cho người dân như theo dõi lượng điện tiêu thụ, thanh toán hóa đơn, gửi yêu cầu, phản ánh, góp ý... Điện lực Mường Khương đặt mục tiêu đến hết...

Đảm bảo an toàn dữ liệu, thông tin và an ninh mạng

Theo thống kê của Sở Thông tin và Truyền thông, hằng tuần, Hệ thống giám sát an toàn thông tin mạng của tỉnh ghi nhận và ngăn chặn trung bình gần 200 lượt tấn công trái phép vào trung tâm mạng thông tin của tỉnh và các hệ thống thông tin của các cơ quan, đơn vị, địa phương (số lượng các cuộc tấn công ngày càng tăng). Các cơ quan nhà nước với...

Cùng tác giả

Những mái nhà đầu tiên dần hoàn thiện ở khu tái định cư Làng Nủ

Trải qua đau thương, mất mát sau trận lũ quét hung dữ, cuộc sống của người dân thôn Làng Nủ đã từng bước đi vào ổn định.  Những ngày qua, Chủ tịch UBND xã Phúc Khánh Đặng Thanh Hòa thường xuyên tới thôn Làng Nủ để gặp gỡ và nắm bắt tình hình cuộc sống của bà con tại khu tạm cư. Theo ông Hòa, được sự quan tâm của cấp trên và các nhà hảo tâm trong cả nước, hiện...

Thống nhất kế hoạch tham gia Hội chợ Kinh tế Thương mại và Du lịch biên giới Trung – Việt (Hồng Hà) năm 2024

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Giải Cờ vua nhanh Hà Nội mở rộng năm 2024 lập kỷ lục số đội tham dự

Giải Cờ vua nhanh Hà Nội mở rộng năm 2024 có sự tham gia đăng ký thi đấu hơn 2.300 vận động viên đến từ gần 100 CLB cờ vua thuộc gần 20 đơn vị tỉnh, thành, ngành. Giải Cờ vua nhanh Hà Nội mở rộng năm 2024 do Sở VH&TT Hà Nội phối hợp với Liên đoàn Cờ Việt Nam tổ chức, là giải đấu đã khẳng định được uy tín trong làng cờ vua Việt Nam. Giải Cờ vua...

3 sản phẩm trà của Lào Cai được trao giải tại cuộc thi “Trà thế giới”

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Tăng nhẹ cả 3 miền; chỉ còn 4 tỉnh miền Trung giao dịch dưới 60.000 đồng/kg

Giá heo hơi hôm nay 5/11: Tăng nhẹ cả 3 miền; chỉ còn 4 tỉnh miền Trung giao dịch dưới 60.000 đồng/kg. (Nguồn: Denhatfood) Giá heo hơi hôm nay 5/11: *Giá heo hơi miền Bắc: Giá heo hơi miền Bắc đang giữ đà tăng nhanh. Trong phiên sáng nay, khu vực này ghi nhận tăng thêm một giá tại: Tuyên Quang, Yên Bái, Lào Cai, Vĩnh Phúc, Nam Định và Ninh Bình. Hiện tại, Ninh Bình và Lào Cai là hai tỉnh có...

Cùng chuyên mục

Thống nhất kế hoạch tham gia Hội chợ Kinh tế Thương mại và Du lịch biên giới Trung – Việt (Hồng Hà) năm 2024

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Vẫn còn tồn tại xe máy cũ nát, không bảo đảm an toàn lưu hành

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Quang Kim tích cực khôi phục sản xuất vụ đông

Ông Đỗ Văn Nguyên chăm sóc lứa rau vụ đông của gia đình. Sau lũ, hơn 1 ha đất trồng rau của gia đình ông Đỗ Văn Nguyên bị phủ bởi lớp cát pha dày cả mét. Để gieo được lứa rau mới, ngoài công sức, ông Nguyên còn phải đầu tư hàng...

Tỷ phú nông dân Nguyễn Văn Hợp

Với 2 ha ao nuôi cá chép lai, cá trắm, cá rô phi thương phẩm này, mỗi năm gia đình ông Nguyễn Văn Lượng thu về khoảng 2 tỷ đồng. Giá trị kinh tế từ nuôi trồng thủy sản tăng gấp nhiều lần từ khi ông Lượng tham gia Hợp tác xã Thủy sản...

Nông dân Bắc Hà trồng rau trong nhà lưới

Nông dân được hướng dẫn kỹ thuật trồng, chăm sóc, phòng bệnh cho cây rau. Gần 3 năm làm việc tại đây, các công đoạn từ làm đất đến kỹ thuật trồng, chăm sóc, phòng bệnh cho cây rau chị Phấn đều được hướng dẫn. Do vậy, chị rất...

Hỗ trợ nông dân Mường Khương nâng cao chất lượng cây quýt

Mật độ trồng quýt quá dày, việc cắt tỉa chưa đạt, vì thế dẫn đến một số vấn đề về sâu bệnh, ảnh hưởng đến năng suất, chất lượng quả.  Đồi quýt 15 năm tuổi của gia đình chị Lò Dìn Sủi, được chuyển đổi từ những thửa ruộng bậc...

Bảo Yên: Đa dạng hóa sinh kế, phát triển mô hình giảm nghèo

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Doanh nghiệp chủ động nguồn hàng hóa dịp cuối năm

Trong lĩnh vực vật liệu xây dựng, thời điểm này, hoạt động kinh doanh nhôm, sắt, thép trở nên sôi động hơn. Do giá cả từ các nhà máy sản xuất vẫn chưa ổn định, từ đầu quý 3 có sự tăng, giảm liên tục, bởi vậy, Công...

Thành phố Lào Cai tăng tỷ lệ cây xanh đô thị

Khu đô thị mới Lào Cai - Cam Đường, bao quanh những khối nhà cao tầng là mảng xanh của 150 ha rừng cảnh quan, tạo thành những “lá phổi xanh”, mang đến không gian thoáng đãng, mát mẻ. Tại các tiểu khu đô thị, chủ đầu tư cũng tuân...

Việt Nam vẫn giữ ngôi đầu về xuất khẩu gạo vào Philippines

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Tin nổi bật

Tin mới nhất