Trước đó, DeepNude đã thu hút sự chú ý trên nhiều diễn đàn mạng vào hôm qua khi nó được phát hiện bởi Motherboard. Ứng dụng này có thể hoạt động được trên Windows và Linux, sử dụng AI để biến một bức ảnh phụ nữ thông thường thành ảnh khỏa thân giả mạo.

Với phiên bản miễn phí, trên bức ảnh giả được tạo ra sẽ "đóng dấu" ảnh giả, trong khi phiên bản trả phí thì cảnh báo ảnh giả nhỏ hơn nằm ở 1 góc có thể dễ dàng xóa hoặc cắt đi. Việc xử lý các bức ảnh bằng kỹ thuật số đã có từ lâu, nhưng điều đáng chú ý là DeepNude có thể tạo ra những bức ảnh nude giả mạo chỉ trong vài giây và bất kỳ ai cũng có thể làm được. Những kẻ xấu có thể lạm dụng nó để quấy rối phụ nữ.

Sự đáng sợ của thế giới ngầm Deepfake

Theo nhóm phát triển DeepNude, ứng dụng đã được bán ra trong vài tháng và không rõ đã có bao nhiêu người mua trước khi nó bị ngừng.

Hôm qua, người được cho là tác giả của DeepNude, Alberto, nói với The Verge rằng, ứng dụng kiểu này sớm hay muộn cũng sẽ được tạo ra dù nhóm của anh này có phát triển DeepNude hay không.

Trước khi DeepNude xuất hiện, những cảnh báo về công nghệ Deepfake (video giả mạo dùng AI) không còn quá mới với khả năng gán khuôn mặt của người này sang cho một người khác trong video với độ chính xác cao.

Các ứng dụng Deepfake được xây dựng dựa trên nền tảng máy học. Nó quét video và ảnh chân dung của một người, hợp nhất nó với video riêng biệt nhờ công nghệ AI và thay thế chi tiết trên gương mặt như mắt, miệng... Tất nhiên, sản phẩm tạo ra là giả mạo, nhưng không ngạc nhiên khi nhiều người có thể tin nó là thật nếu chỉ xem lướt qua.

Nàng Mona Lisa có thể "sống dậy" nhờ Deepfake. Ảnh: Metro

Theo HuffPost, đáng ngại hơn, hiện không cần những chuyên gia có kiến thức về AI hay máy học, mà người bình thường với vài kỹ năng về chỉnh sửa video, thông qua các ứng dụng trực tuyến miễn phí về Deepfake cũng có thể tạo ra những tác phẩm giả một cách khá đơn giản.

Vụ video giả mạo liên quan đến bà Nancy Pelosi, mà Facebook và YouTube cho biết sẽ xóa những video này, nhưng nhiều ngày sau đó vẫn còn hàng loạt các bản sao được lưu hành. CEO Mark Zuckerberg ngày 26/6 thừa nhận công ty truyền thông xã hội của ông đã mất quá nhiều thời gian để gắn cờ báo một video bị làm giả về chủ tịch Hạ viện Mỹ, bà Nancy Pelosi.

"Thực sự rất đáng sợ. Nó giống như một cuộc chạy đua vũ trang vậy", ông Edward Delp, Giám đốc Phòng thí nghiệm xử lý hình ảnh và video tại Đại học Purdue, nhấn mạnh về sự phát triển của công nghệ Deepfake.

Trước khi trông chờ sự bảo vệ đến từ các cơ quan lập pháp, cùng giải pháp ngăn chặn Deepfake của các công ty công nghệ hay nền tảng mạng xã hội, người dùng Internet phải tìm cách tự bảo vệ bản thân và cầu mong mình không trở thành nạn nhân của công nghệ do kẻ xấu nào đó cố tình lạm dụng.

Hải Phong (tổng hợp)

Malaysia: Đăng tin giả mạo bị phạt tù 10 năm, nộp phạt 2 tỷ đồng

Những người đăng tải và truyền bá tin tức giả mạo tại Malaysia sẽ phải đối mặt với 1 trong 2 hình phạt, ngồi tù 10 năm hoặc nộp phạt cỡ 2 tỷ đồng.

Jio Platforms là công ty con hoạt động trong lĩnh vực viễn thông và kỹ thuật số của Reliance. (Nguồn: Bloomberg)

Người đứng đầu tập đoàn Reliance Industries của Ấn Độ, Mukesh Ambani, ngày 15/7 cho biết Google sẽ mua 7,73% cổ phần của Jio Platforms, công ty con hoạt động trong lĩnh vực viễn thông và kỹ thuật số của Reliance, với giá 4,5 tỷ USD, khi các tập đoàn công nghệ trên toàn cầu chạy đua giành thị phần trên thị trường thương mại điện tử to lớn của Ấn Độ.

Phát biểu trước các cổ đông của tập đoàn hoạt động trong lĩnh vực dầu mỏ và viễn thông tại hội nghị thường niên, ông Ambani nói Reliance vui mừng chào đón Google, cái tên đình đám tại Ấn Độ và trên thế giới, và đã ký thỏa thuận đầu tư và đối tác mang tính ràng buộc.

Ông cho biết với khoản đầu tư của Google, các nhà đầu tư chiến lược và tài chính đã cam kết tổng cộng 1.520 tỷ rupee (20,22 tỷ USD) trong vài tháng qua.

Jio Platforms cung cấp các ứng dụng nghe nhạc và xem phim nhưng trụ cột chính là Jio Inforcom, nhà mạng di động lớn nhất của Ấn Độ, với 387 triệu người dùng.

Google đầu tư số tiền trên khi định giá nền tảng kỹ thuật số này ở mức 4.360 tỷ rupee.

Với khoản đầu tư trên, Google sẽ trở thành nhà đầu tư nước ngoài lớn thứ hai của Jio Platforms sau Facebook, với 9,99% cổ phần.

Sự kiện này cũng đánh dấu lần đầu tiên hai tập đoàn công nghệ hàng đầu Phố Wall cùng đầu tư vào một liên doanh.

Google là nhà đầu tư thứ 13 vào Jio Platforms trong vòng chưa đầy hai tháng qua.

Đến nay, nền tảng này có bốn đối tác chiến lược là Facebook, Intel, Qualcomm và Google.

Các chi nhánh đầu tư của các nhà sản xuất chip Qualcomm và Intel cũng đã mua cổ phần của Jio Platforms trong tháng này.

Các tập đoàn lớn như Facebook, Intel và các tập đoàn khác đã tái đầu tư khoảng 15 tỷ USD vào Jio Platforms trong năm nay.

Các nhà đầu tư toàn cầu khác vào Jio Platforms hiện bao gồm hai tập đoàn đầu tư lớn nhất của Abu Dhabi là Cơ quan đầu tư Abu Dhabi và Mubadala, các công ty cổ phần tư nhân Silver Lake, Vista Equity Partners, General Atlantic, KKR, TPG, L Catterton và Quỹ đầu tư công Saudi Arabia.

Thông báo về thỏa thuận giữa Google và Reliance được đưa ra vài ngày sau khi Giám đốc điều hành Alphabet, công ty mẹ của Google, Sundar Pichai. cho biết tập đoàn này sẽ đầu tư 10 tỷ USD tại Ấn Độ trong 5-7 năm tới thông qua các thỏa thuận mua cổ phần hoặc hợp tác./.

Theo Vietnam+

Google đầu tư khoản tiền kỷ lục cho Ấn Độ

“Kế hoạch đầu tư là sự phản ánh niềm tin của chúng tôi vào tương lai của Ấn Độ và nền kinh tế số của đất nước này”, ông Sundar Pichai, CEO công ty mẹ Alphabet của Google chia sẻ.

Một buổi tối thứ 4, cô vợ người Trung Quốc của Joshua Dummer, công dân Anh sống ở Bắc Kinh muốn chồng cùng tham gia livestream trên Douyin - phiên bản dành cho người Trung Quốc của TikTok.

"Cô ấy nài nỉ tôi livestream cùng. Tôi ngồi trên ghế, bắt đầu câu chuyện thường nhật nhàm chán của mình bằng vốn tiếng Trung phổ thông xen lẫn vài từ tiếng Anh cho 4 hay 5 người đang xem", Joshua nói.

"Chỉ sau hơn một phút, màn hình thông báo người nước ngoài không được livestream khi chưa được “cấp phép”. Buổi phát sóng bị xóa, vợ của tôi cũng tạm thời bị cấm ghi hình".

Joshua cùng hơn 850 triệu người dùng Internet ở Trung Quốc vốn không xa lạ với những hệ thống kiểm duyệt. “Tất cả ứng dụng, trang web hay phương tiện truyền thông ở đây đều phải tuân theo luật định về nội dung nào là phù hợp”, anh nói.

Joshua cũng không quá ngạc nhiên với những yêu cầu của Douyin trước khi livestream như phải có chứng minh thư và ảnh mặt thật. Tuy nhiên, đây là lần đầu tiên anh bị cấm phát sóng, phải làm thêm thủ tục đăng ký sử dụng ứng dụng vì là người nước ngoài.

Kể từ 2017, Bộ Văn hóa Trung Quốc chính thức cấm người nước ngoài phát sóng trực tiếp mà không có giấy phép của chính phủ. Tuy nhiên, quy định này đến gần đây mới được áp dụng.

Có lẽ do lệnh phong tỏa vì sự bùng phát của Covid-19, làn sóng streaming ở Trung Quốc gia tăng mạnh mẽ trong năm nay, từ đó việc áp dụng mới được thực hiện gắt gao. Douyin cũng cấm người dùng livestream bằng tiếng Quảng Đông, vốn được sử dụng nhiều ở Hong Kong.

“Các livestream trên Douyin đều do con người kiểm duyệt. Chúng tôi xác nhận sự việc của ông Joshua Dummer đã được một giám sát viên con người thực hiện”, phát ngôn viên của ByteDance cho biết.

Tuy nhiên, tài liệu từ chính ByteDace đã lật tẩy lời nói của họ.

Sách trắng của ByteDance xuất bản năm 2019 đề cập về phản ứng của công ty trước sự phát triển và gia tăng khổng lồ giới streamer ở Trung Quốc, thu hút hàng trăm triệu người xem và tạo ra nhiều ngôi sao mới nổi qua mạng xã hội.

Theo đó, làn sóng streaming bùng nổ cũng kéo theo nhiều vấn đề. Rất nhiều nội dung vi phạm luật pháp, trật tự công cộng, thuần phong mỹ tục xuất hiện trên số lượng lớn ứng dụng livestream, ảnh hưởng xấu đến xã hội. Để ngăn chặn rủi ro phát sinh từ đó, ByteDance đã tạo ra quy trình giám sát.

Công ty này dùng trí tuệ nhân tạo (AI) phân tích chi tiết từng buổi phát sóng, kể cả hành vi của người xem. Những buổi livestream nào có dấu hiệu khả nghi sẽ bị “gắn cờ”, báo cáo đến nhân viên giám sát và người này sẽ hạn chế hoặc cấm luôn tài khoản livestream đó. Đó là lý thuyết, còn thực tế chưa được kiểm chứng.

Vài biện pháp của ByteDance cũng được dùng phổ biến ở phương Tây. Cả Facebook và YouTube đều sử dụng AI kiểm soát tin giả về virus corona hay các phương pháp chữa bệnh phản khoa học trong thời đại dịch, nhưng kết quả nhìn chung đều chậm trễ và tệ hại.

Facebook thường xuyên theo dõi người dùng để nhận biết các dấu hiệu cho thấy họ đang bán ma túy, tuyên truyền tin giả, tôn sùng các tổ chức thù địch hay có ý định tự tử. Sau vụ xả súng tại nhà thờ hồi giáo Christchurch hồi năm 2019, khi thủ phạm phát sóng trực tiếp trên Facebook, mạng xã hội này phải đảm bảo với các chính phủ phương Tây sẽ giám sát các luồng streaming chặt chẽ hơn. Tuy nhiên, đó vẫn là "lời hứa gió bay" và chưa thấy rõ hiệu quả.

Những công ty này có chung nhiều quy tắc. Cả Facebook lẫn ByteDance đều kiểm duyệt nội dung khiêu dâm, khỏa thân, liên quan đến tình dục, quấy rối, lừa đảo, vi phạm bản quyền và giả mạo danh tính. Đương nhiên, vẫn có vài khác biệt đáng kể.

Tính đến tháng 3/2020, ứng dụng TikTok ra mắt từ tháng 9/2016 đã có hơn 800 triệu người dùng toàn cầu.

Một cách nhanh chóng, các nhà phát triển ứng dụng tại Trung Quốc hiểu rằng kỷ nguyên Instagram (chia sẻ ảnh) đang mờ dần và chia sẻ video dạng ngắn sẽ lên ngôi.

Trong nền văn hóa nơi cả thông tin và cách giải trí tiêu thụ theo lối phù du, cá nhân hóa, TikTok đang thể hiện khả năng đa dạng hóa hệ sinh thái nội dung, một trong những chìa khóa quan trọng thu hút đông đảo người dùng.

Người ta có thể tìm thấy mọi thứ quái đản nhất tại đây: Một buổi hòa nhạc của những gã say rượu, cả thuyết âm mưu về đường dây buôn bán trẻ em đặt trong các tủ quần áo. Douyin cũng không khác biệt mấy. Ứng dụng này đã đưa nhiều streamer với những trào lưu kỳ quái.

Năm 2019, 460.000 tài khoản sử dụng Douyin để chụp ảnh gia đình, hơn 3 triệu làm video về người thân và hơn 7 triệu chia sẻ ảnh, video đám cưới của họ ở đây.

Trong những ngày đầu, người dùng của nó chủ yếu là giới trẻ. Đến ngày nay, 400 triệu user Douyin đến từ mọi nhóm tuổi. "Cả nhà tôi, từ bố, mẹ, chú, dì đều là fan của Douyin. Mẹ tôi thậm chí còn làm video trên đó", LiuYu, nhà báo và người dẫn chương trình phát thanh tại Beijing Radio Group cho biết.

Tuy nhiên, tất cả đều phải trải qua chế độ kiểm duyệt và giám sát tự động nghiêm ngặt nói trên.

Hệ thống nhận diện khuôn mặt của Douyin sẽ quét những streamer đang phát sóng và đoán tuổi của họ. Nếu streamer dưới 16 tuổi, họ sẽ bị hệ thống báo cáo cho người kiểm duyệt. Một hệ thống khác sẽ xác nhận khuôn mặt người dùng có khớp với chứng minh thư hay không rồi mới cho phép livestream.

Thêm một hệ thống nữa lọc và đề cử các streamer có tỉ lệ xem cao, nội dung livestream đảm bảo “thuần phong mỹ tục” với cách tính tương tự điểm tín dụng. Nếu điểm số thấp hơn mức quy định, streamer sẽ bị phạt.

ByteDance cấm mọi chương trình phát sóng trực tiếp có nội dung "chống Đảng và chống chính phủ". Những câu chuyện mê tín dị đoan, hút thuốc, uống rượu, tôn sùng tiền bạc và nhục mạ phụ nữ cũng bị cấm.

Cả nội dung ASMR (Phản ứng cực khoái cảm giác độc lập - Autonomous sensory meridian response, ở đây chỉ các giọng nói nhỏ nhẹ của nữ giới) cũng không ngoại lệ. ByteDance cho rằng đôi khi các video này thu hút sự chú ý của người xem bằng nội dung khiêu dâm.

Slime, món đồ chơi được nhiều đứa trẻ ở Anh yêu thích cũng bị cấm vì chứa hóa chất độc hại. ByteDance đưa dẫn chứng một đứa trẻ ở Anh cuồng xem YouTubeđã bị bỏng hóa chất sau khi tập làm “slime kỳ lân”.

Những người làm video ăn uống Mukbang ở Trung Quốc được gọi là “vua bụng lớn”, cũng bị cho là “tấm gương xấu của xã hội”. Dù thừa nhận những người này có khả năng đáng kinh ngạc, công ty cũng đánh giá họ “dù béo phì nhưng vẫn cố ăn”.

Không thể không kể đến quy định trang phục cho phụ nữ. ByteDance đưa ra những quy định chặt chẽ, thậm chí còn kèm cả sơ đồ hướng dẫn.

Với trường hợp của Joshua Dummer, không rõ hệ thống nào đã “gắn cờ” anh ấy. Một nhà báo Mỹ đang ở Trung Quốc dùng thử ứng dụng và gần như không tìm thấy bằng chứng về việc Douyin quét mặt người dùng.

Có thể ứng dụng này chỉ kiểm tra khuôn mặt streamer có khớp với chứng minh thư hay không và tự động chặn người nước ngoài, hoặc có thể AI đã nhận dạng giọng nói và phát hiện Joshua dùng tiếng Anh.

Tuy nhiên, chúng cũng khiến TikTok đối mặt trước những truy vấn về việc ứng dụng này có dùng công nghệ tương tự cho người dùng phương Tây hay không. Nghi ngờ càng lớn hơn sau khi ứng dụng bị cấm ở Ấn Độ, trong khi Mỹ, Anh vẫn luôn đặt con mắt dò xét.

Hiển nhiên, TikTok từ chối trả lời.

Trên mọi phương diện, ByteDance vẫn luôn tự hào hệ thống của mình đã đạt được nhiều thành quả. Từ năm 2018-2019, các vi phạm trên sóng phát trực tiếp đã giảm 58%, trong đó 93% vụ việc được hệ thống tự động báo cáo trước cả người dùng. So sánh với báo cáo gần đây của TikTok, tính cả những video không phải livestream, tỷ lệ này tăng đến 98,2%.

Tất cả điều này có ý nghĩa gì với TikTok? Ứng dụng này tách biệt với Douyin và được sử dụng trên mạng lưới khác. Tuy nhiên, cả hai đều được phát triển ở Trung Quốc với tính năng tương tự, ý tưởng mới được thử nghiệm ở Douyin rồi mới đưa lên TikTok.

Tài liệu nội bộ của ByteDance cho thấy trong năm 2019, hệ thống kiểm duyệt buộc người giám sát loại bỏ các video người dùng mang "hình dạng cơ thể bất thường", "quá nhiều nếp nhăn" hoặc "bệnh về mắt”.

Mục đích của việc này là đảm bảo người dùng mới sẽ bị thu hút bởi những TikToker có ngoại hình nổi bật, thay vì mất hứng thú bởi những người “xấu xí” hoặc video có “chất lượng kém”.

Một cuộc điều tra khác cho thấy TikTok ngăn chặn các video của người khuyết tật, chẳng hạn như những người mắc chứng "tự kỷ", "hội chứng Down" hoặc "biến dạng khuôn mặt". Một người dùng ở Đức được gắn nhãn "người dùng đặc biệt" cho rằng việc này là "phân biệt đối xử" và "vô nhân đạo".

Ứng dụng này còn có các quy định liên quan chính trị. Các video từ phương Tây đề cập đến những câu chuyện "nhạy cảm" ở Trung Quốc đều sẽ bị kiểm duyệt.

Việc Douyin sử dụng nhận dạng khuôn mặt và chứng minh thư để giám sát người dùng cũng đã vượt xa hầu hết ứng dụng phương Tây về khía cạnh quyền cá nhân. Dù hệ thống phát hiện người dùng nhỏ tuổi của ByteDance vẫn đang được "thử nghiệm" khi sách trắng nói trên được viết, có thể chúng đã được hoàn thiện hơn trước đây.

Trong nỗ lực tách biệt hai ứng dụng, ByteDance thuê cựu Giám đốc điều hành của Disney Kevin Mayer tiếp quản TikTok, đồng thời thông báo thành lập văn phòng kỹ thuật mới ở Mỹ.

Nhưng như thế vẫn chưa đủ ngăn quan chức Mỹ đặt nghi vấn nhà cầm quyền Trung Quốc có thể truy cập vào tất cả dữ liệu cá nhân mà họ thu thập qua TikTok. Ở chiều ngược lại, ứng dụng này liên tục tuyên bố chưa bao giờ cung cấp dữ liệu cho chính phủ, kể cả hiện tại và tương lai.

TikTok bị các cơ quan quản lý Mỹ điều tra sau các cáo buộc vi phạm quyền riêng tư trẻ em, đặc biệt sau khi bốn thanh thiếu niên đâm đơn kiện với lý do thu thập dữ liệu khuôn mặt của họ mà chưa được sự cho phép.

Đáp lại, TikTok cho hay hầu hết tài liệu kể trên đã cũ hoặc không còn hiệu lực, vài tài liệu còn không được công ty xác nhận. TikTok cho biết các quy định liên quan chính trị và người khuyết tật là để hạn chế xung đột.

Vậy có bao nhiêu hệ thống kiểm duyệt, giám sát của Douyin được dùng trong TikTok? TikTok có sử dụng nhận dạng khuôn mặt không? Nếu có thì chúng được sử dụng như thế nào? Nói cách khác, người dùng thế giới có phải lo lắng về chuyện này?

Một lần nữa, TikTok từ chối trả lời những câu hỏi cụ thể trên.

(Theo Zing)

Nhìn lại sự trỗi dậy của TikTok, ứng dụng Trung Quốc bị Mỹ dọa 'cấm cửa'

TikTok là ứng dụng Trung Quốc đầu tiên thành công trên thị trường toàn cầu. Tuy nhiên, sức hút điên rồ của TikTok cũng khiến nó phải đối mặt với vô số thách thức.