Powered by Techcity

Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại ảnh 1

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người – được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Nguồn

Cùng chủ đề

Hưởng lợi từ AI nhưng Google, Meta đều lo sợ rủi ro

Trí tuệ nhân tạo (AI) là chủ đề thảo luận lớn nhất của ngành công nghệ từ khi OpenAI công bố ChatGPT tháng 11/2022. Ngay sau đó, các công ty như Google, Meta, Microsoft… cũng đầu tư mạnh mẽ cho các nỗ lực AI của riêng mình. Big Tech không ngần ngại chia sẻ về những tham vọng đối với AI, nhưng gần đây, họ đang âm thầm giải quyết những rủi ro của công nghệ này đối...

Hàng loạt người nổi tiếng bị hack kênh youtube

Hàng loạt người nổi tiếng bị hack kênh youtube Mới đây, hàng loạt kênh mạng xã hội của nghệ sĩ, người nổi tiếng, nhà sáng tạo nội dung bị hacker tấn công. Một loạt kênh của người nổi tiếng bị hack kênh youtube. Cụ thể, kênh youtube MixiGaming (Phùng Thanh Độ) đã bị tấn công chiếm quyền điều khiển. Hacker sau đó ẩn hết nội dung video và dùng kênh này để livestream nội dung...

Cảnh báo trò giả danh sàn thương mại điện tử, siêu thị điện máy để lừa đảo

Giả mạo logo, hình ảnh thương hiệu, Website, Facebook, Zalo, công văn, con dấu, tài khoản ngân hàng của một số sàn thương mại điện tử (TMĐT), doanh nghiệp có uy tín thương hiệu trong hoạt động kinh doanh để chiếm đoạt tài sản của người dân. Thủ đoạn này ngày càng tinh vi vì vậy gười dân nên thận trọng với các chiêu trò dưới đây để tránh bị sập bẫy những đối tượng lừa đảo: (1)...

EVNNPC CSKH – ứng dụng tiện ích với người dân Mường Khương

Để nâng cao chất lượng chăm sóc khách hàng sử dụng điện, Điện lực Mường Khương đã triển khai ứng dụng chăm sóc khách hàng của Tổng công ty Điện lực Miền Bắc - “EVNNPC CSKH” trên địa bàn. Ứng dụng này mang lại nhiều tiện ích cho người dân như theo dõi lượng điện tiêu thụ, thanh toán hóa đơn, gửi yêu cầu, phản ánh, góp ý... Điện lực Mường Khương đặt mục tiêu đến hết...

Đảm bảo an toàn dữ liệu, thông tin và an ninh mạng

Theo thống kê của Sở Thông tin và Truyền thông, hằng tuần, Hệ thống giám sát an toàn thông tin mạng của tỉnh ghi nhận và ngăn chặn trung bình gần 200 lượt tấn công trái phép vào trung tâm mạng thông tin của tỉnh và các hệ thống thông tin của các cơ quan, đơn vị, địa phương (số lượng các cuộc tấn công ngày càng tăng). Các cơ quan nhà nước với...

Cùng tác giả

Kinh tế – xã hội 10 tháng năm 2024 tiếp tục xu hướng tích cực

Chiều 9/11 tại Hà Nội, Văn phòng Chính phủ tổ chức buổi họp báo Chính phủ thường kỳ tháng 10/2024 dưới sự chủ trì, điều hành của Bộ trưởng, Chủ nhiệm Văn phòng Chính phủ Trần Văn Sơn, Người phát ngôn của Chính phủ. Mở đầu họp báo, Bộ trưởng, Chủ nhiệm Văn phòng Chính phủ Trần Văn Sơn đã thông tin tới báo chí về phiên họp Chính phủ thường kỳ tháng 10 diễn ra sáng cùng ngày dưới...

Kỳ họp thứ 23, HĐND tỉnh khóa XVI thông qua 10 Nghị quyết

CTTĐT - Sau 1/2 ngày làm việc khẩn trương, nghiêm túc, với tinh thần trách nhiệm cao, HĐND tỉnh Lào Cai đã hoàn thành toàn bộ nội dung chương trình làm việc của Kỳ họp thứ 23 (Kỳ họp giải quyết công việc phát sinh) đề ra và bế mạc Kỳ họp.   Dưới sự chủ trì của đồng chí Vũ...

Khai mạc Kỳ họp thứ 23, HĐND tỉnh Lào Cai khóa XVI

CTTĐT - Sáng 09/11, HĐND tỉnh Lào Cai khóa XVI, nhiệm kỳ 2021 - 2026 tổ chức Kỳ họp thứ 23 (kỳ họp giải quyết công việc phát sinh). Đây là kỳ họp phát sinh lần thứ 6 trong năm 2024 và là kỳ họp phát sinh thứ 15 trong thời gian từ đầu nhiệm kỳ đến nay, để thực hiện một số nội dung đề nghị theo Tờ trình của UBND tỉnh...

Giá vàng lao dốc, nhẫn trơn mất 6 triệu đồng: Liệu còn giảm sâu?

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Giá heo hơi hôm nay 9/11/2024: Tăng 1.000

Giá heo hơi miền Bắc hôm nay hôm nay 9/11/2024 Tại khu vực miền Bắc, giá heo hơi hôm nay duy trì ổn định so với ngày hôm qua và dao động trong khoảng 62.000 – 64.000 đồng/kg. Cụ thể, thương lái tại Thái Nguyên, Phú Thọ, Vĩnh Phúc, Bắc Giang, Hà Nội, Thái Bình, Hưng Yên, Hải Dương đang thu mua heo hơi với giá 64.000 đồng/kg ghi nhận đây là mức giá cao nhất khu vực. Giá heo hơi hôm...

Cùng chuyên mục

Giá vàng lao dốc, nhẫn trơn mất 6 triệu đồng: Liệu còn giảm sâu?

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Chiến thắng nhọc nhằn của Xi măng Long Sơn (XMLS) Thanh Hóa trước Hà Nội

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Đề xuất giải pháp khắc phục các công trình thủy lợi bị thiệt hại

Quang cảnh cuộc họp. Toàn tỉnh hiện có 107 đập, hồ chứa nước thủy lợi, với tổng dung tích gần 10,85 triệu m3; đảm bảo cung cấp nước cho hơn 1.400 ha đất sản xuất nông nghiệp và cung cấp nước thô cho các công trình cấp nước...

Bảo Yên khôi phục diện tích dâu tằm sau mưa, lũ

Bà Vũ Quế Anh (phải ảnh) được hướng dẫn kỹ thuật trồng cây dâu tằm sau mưa, lũ. Tranh thủ thời tiết thuận lợi, bà Vũ Quế Anh khẩn trương xuống giống dâu mới được hỗ trợ. Hơn 3 sào trồng dâu bị mưa lũ vùi lấp, nay đã được...

Triệu hồi hơn 11.000 xe Honda Civic và CR-V ở Việt Nam

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Mường Khương – Bài học kinh nghiệm từ sản xuất nông nghiệp hàng hóa

Trồng chè thâm niên gần 20 năm nay, chị Thảo khẳng định từ khi liên kết sản xuất với Hợp tác xã chè Mường Khương, chị không lo đầu ra nữa. Đầu tư chế biến chè búp khô, mỗi năm hợp tác xã thu mua tới hơn 10.000 tấn chè búp...

Xây dựng hình ảnh Việt Nam hội nhập sâu rộng khi tham gia WTO

window.addEventListener('load', function(){ if(typeof Web_SdaArticleAfterComment != 'undefined'){window.CMS_RENNAB.pushSda(Web_SdaArticleAfterComment, 'sdaWeb_SdaArticleAfterComment');}else{document.getElementById('sdaWeb_SdaArticleAfterComment').style.display = "none";} }); Nguồn

Thượng Hà khắc phục hậu quả thiên tai, ổn định đời sống cho Nhân dân

Bà con trong thôn hỗ trợ gia đình chị Bàn Thị Mắn xây dựng nơi ở mới. Sau mưa bão, ngôi nhà của 3 mẹ con chị Bàn Thị Mắn bị đất sạt lở vùi lấp hoàn toàn. Cùng với giúp đỡ để gia đình tạm ổn định cuộc...

Hội chợ Trung – Việt năm 2024 dự kiến khai mạc ngày 26/11/2024

Quang cảnh cuộc họp. Dự kiến hội chợ Trung - Việt năm 2024 sẽ diễn ra từ ngày 26/11 - 01/12/2024 tại huyện Hà Khẩu, châu Hồng Hà, tỉnh Vân Nam, Trung Quốc với chủ đề: Phát triển cùng chia sẻ - Hợp tác cùng hưởng lợi. Hội chợ dự...

Thúc đẩy xúc tiến thương mại xuất nhập khẩu

Tại Cửa khẩu đường bộ số 2 Kim Thành, nông sản Việt là mặt hàng xuất khẩu chủ yếu, chiếm trên 90%. Để đảm bảo điều kiện xuất khẩu chính ngạch, các doanh nghiệp của Việt Nam và Trung Quốc tăng cường hợp tác qua hàng loạt sự kiện xúc...

Tin nổi bật

Tin mới nhất