Social Media Gives Rise to Hate Crimes – New Legislation Requires Big Techs Transparency and Online Platforms Designed as Age Appropriate
March 6, 2023
By Diana Martinez
San Fernando Valley Sun/el Sol
Republished and translated into Vietnamese with permission from San Fernando Valley Sun/el Sol.
Assemblymember Gabriel with Emi Kim (far right back row) and Linda Ng (far right front row)
It’s hoped that two bills together AB 2273 and AB 587 recently signed by Gov. Newsom will mark a major step forward to regulate Big Tech and address harm from social media
This article is part of a 12-part- series on hate crimes, hate speech and its relationship to stereotypes, and its impact on interethnic communities. This series examines the continued use of negative, inaccurate terms which have promoted hate and racism.
Emi Kim was the target of online hate and bullying growing up in school.
At a news conference, Kim stood alongside California Assemblymembers to support recent legislation that addresses the issue of “online hate.”
She described the torment she experienced daily which started when she was in sixth grade.
“I’m 18 years old now, [but] I grew up with a phone in my hand. I got my first phone in sixth grade, and I downloaded Instagram shortly thereafter and found my classmates were taking pictures of me in the hallway and posting them online, and continuously calling me ‘fat.’ They said when I smiled, my eyes looked like macaroons and when I ate a macaroon during lunch, that I was a cannibal.”
Kim is now part of the “Log Off” movement and the director of its legislative efforts. The youth organization has been created by teens for teens to promote the better and safer use of social media.
“I’m standing here to fight for what is right,” Kim said. “If you would have told the 13-year-old me that I would be standing here as a leader in this movement, I would have laughed in your face. People on social media and on these platforms had convinced me that I would be nothing more than a ‘fat girl.’ This came with so much struggle and it’s still a struggle that I come with today,” she explained.
Kim announced, “I’m here to prove that not only am I a ‘fat girl’ but I am an intelligent woman and a powerful woman that deserves respect and my ‘Asianess’ isn’t an excuse to push aside my accomplishments.”
Kim has been a supporter of the new legislation that recently passed and is expected to require more transparency about the source of information and place more guardrails on social media.
She called on adults to “do the right thing.” Ignoring the negative impact and hate-based bullying put on blast via social media can have serious consequences.
“I receive emails and messages every single day from another teenager somewhere to say that social media is the core reason they want to kill themselves. You shouldn’t let children on a platform that makes them want to kill themselves. Social media wasn’t designed for children, it was designed for adults,” said Kim.
“Safety measures have existed on everything that kids touch except for social media,” Kim pointed out. “You don’t allow your child on a bicycle without a helmet, you don’t allow a baby in a kitchen without cabinet locks, you should not allow your children on social media platforms that drive them to want to kill themselves. Safety perimeters exist on everything kids touch except for social media.”
Until now.
It’s hoped the passage of this set of brand-new legislation will change the online climate.
“I want to tell kids that your voice and you are forever more valuable than someone else on social media. I’m standing here for you,” Kim said.
In addition to young people, the most vulnerable communities that include women, people of color, religious minorities including members of the Jewish community and immigrants have been the victims of online hate.
A recent study conducted by the Anti-Defamation League (ADL) indicated a dramatic increase in Asian American harassment, which has correlated with the rise of anti-Asian hate incidents. They also found LGBTQ+ individuals experiencing harassment at the highest levels among all respondents, and nearly half of youth ages 13-17 are experiencing some type of online harassment.
Linda Ng, the national president of Asian Pacific American Advocates (a national civil rights organization), said she wasn’t surprised by the results of the study conducted by the ADL because the Asian community “lives it every day.”
“We are tired of the lack of regulations and the enforcement of hate on big social media platforms. Eight out of 10 Asian Americans in an ‘AAPI Stop the Hate Report’ reported being bullied or verbally harassed,” said Ng.
The growth of verbal harassment and hate expressed against the Asian community, Ng said, “We already knew that — when Asian American Pacific Islander [AAPI] women are sent sexually harassing messages through social media sites, we’re told to go back to our communities like chattel, told COVID-19 is an ‘Asian disease,’ and we’re told that every day. Our community continues to live in fear and it’s important to hold social media companies accountable. We’re tired of it — we don’t want words, we want action.”
Two Social Media Bills are Signed by the Governor
Following a two-year battle and fierce opposition from Big Tech, Assemblymembers Jesse Gabriel, Buffy Wicks and Jordan Cunningham successfully got two bills they authored through the legislature and signed by the Governor this month: AB 587, the Social Media Accountability and Transparency Act (Gabriel), and AB 2273, the Age Appropriate Design Code (Wicks, Cunningham).
Gabriel’s Assembly Bill 587 will now require more transparency and accountability from social media companies requiring their media platforms to publicly disclose and post their policies that involve disinformation, online hate, extremism and harassment.
“This new law will finally pull back the curtain and require tech companies to provide much-needed transparency and accountability to social media,” said Gabriel.
“Social media has created some incredible opportunities, but also real threats and challenges — particularly when it comes to protecting our kids and our democracy,” said Gabriel.
“For the first time, this bill would require major social media companies to publicly report their content moderation policies and report key data about how they enforce those policies and to be honest when they are amplifying certain voices and silencing others,” said Gabriel, who maintained that there is little doubt that social media platforms have spread hate, amplified extreme and dangerous content and driven political polarization.
A 2016 internal report by Facebook found that 64 percent of people who joined an extremist group on Facebook did so only because the company’s own algorithms recommended it to them, and the consequences could not be more evident.
“Consider the mass shootings we had in this country,” said Gabriel. Numerous studies have linked hate violence, mass shootings and online activity, he said. “They were radicalized through a toxic brew of white supremacy and extremist ideology … social media has become rocket fuel for hate.”
Gabriel also noted, in addition to the spread of hate speech, there have been the consequences of extreme political polarization online including disinformation and misinformation about COVID-19, which he said has contributed greatly to vaccine hesitancy and the refusal to vaccinate.
“It’s long past time for tech companies to provide real transparency into how they are shaping our public discourse. The public and policymakers deserve to know when social media companies are amplifying certain voices and silencing others.”
Gabriel called the legislation an important step in a broader effort to “protect our vulnerable communities and hold Big Tech accountable.”
Children’s Data Protection
Wick’s and Cunningham’s Assembly Bill 2273 prohibits companies that provide online services, products or features likely to be accessed by children from using a child’s personal information; collecting, selling or retaining a child’s geolocation; profiling a child by default; and leading or encouraging children to provide personal information.
She said safeguards are already in place in the United Kingdom where they have already passed the design code.
“[In the UK,] YouTube has turned off autoplay for children under 18 and Google has made safe search its default browsing mode for those under the age of 18, TikTok and Instagram has disabled direct messaging between children and adults they don’t follow, TikTok doesn’t put forth notifications past a certain hour. A lot of these things may sound like small things but they are big things to the ecosystems that our children are living in,” said Wick.
“Children have been bombarded with inappropriate information online and they don’t yet have the capacity to understand all the information coming at them, so we want to make sure that when these products are created, they are by design and default safe for our children.”
“I’m very glad for our kids that the governor signed AB 2273, requiring that online platforms accessible by children be designed as age-appropriate,” echoed Assemblymember Jordan Cunningham, who pointed out that “there are predators out there and they use these tools to try to get at children and it’s not right.”
“With this law, California is leading the nation in creating a new online experience that is safe for kids. We still have more work to do to address the youth mental health crisis,” he acknowledged.
“In particular, we know that certain Big Tech social media companies design their products to addict kids, and a significant number of those kids suffer serious harm as a result … such as depression, suicidal thoughts, anxiety and eating disorders. Protecting kids online is not only common sense, but it will also save lives.”
The Children’s Data Protection Working Group will be established as part of the California Age-Appropriate Design Code Act to deliver a report to the legislature by January 2024 on the best practices for implementation.
The legislators delivered a unified message: “Children and communities deserve to be safe. California is home to the digital world and with this bipartisan legislation, it’s our hope California will lead the way.”
“As California goes, so goes the nation,” said Wick.
Truyền Thông Xã Hội Làm Gia Tăng Những Tội Ác Do Thù Ghét - Sắc Luật Mới Đòi Hỏi Những Công Ty Truyền Thông Lớn Phải Có Sự Rõ Ràng Và Những Cơ Sở Phải Được Phác Họa Sao Cho Phù Hợp Với Lứa Tuổi
Tác giả: Diana Martinez
San Fernando Valley Sun/el Sol
Đăng lại và dịch sang tiếng Việt với sự đồng ý của San Fernando Valley Sun/el Sol.
Hy vọng là hai dự thảo luật AB 2273 và AB 578 vừa mới được ký bởi Thống Đốc Newsom sẽ đánh dấu một bước tiến quan trọng trong việc điều hành những công ty Truyền Thông Lớn và đặt vấn đề về những tai hại mà truyền thông đem lại.
Bài báo này là một phần của loạt 12 bài về tội ác do thù ghét, về những phát biểu do thù ghét cùng những mối quan hệ của chúng đến sự rập khuôn, và ảnh hưởng của chúng trên những cộng đồng liên sắc tộc. Loạt bài này khảo sát việc tiếp tục sử dụng những từ ngữ tiêu cực, không chính xác đem lại sự thù ghét và nạn kỳ thị chủng tộc.
Thuở bé, khi đi học Emi Kim đã từng là nạn nhân của sự thù ghét và bắt nạt trên mạng.
Trong cuộc họp báo, Kim đứng về phía những dân biểu quốc hội California để ủng hộ đạo luật mới ra đời đề cập đến vấn đề "thù ghét trên mạng."
Cô mô tả sự tra tấn hàng ngày cô đã trải qua bắt đầu từ khi cô vào lớp sáu.
Năm nay tôi 18 tuổi, [nhưng] tôi lớn lên với điện thoại di động trong tay. Năm lớp sáu tôi có cái điện thoại đầu tiên, không lâu sau đó tôi cài đặt Instagram và phát hiện ra bạn học của tôi chụp hình tôi trong hành lang rồi đăng lên mạng, và liên tục gọi tôi là 'mập', Chúng nó nói khi tôi cười, mắt tôi giống bánh macaroon và giờ ăn trưa khi tôi ăn một chiếc bánh macaroon, là tôi ăn thịt người."
Hiện nay Kim là một phần của phong trào "Log Off" và là người điều hành những nỗ lực đặt ra luật lệ của tổ chức. Nhóm người trẻ được lập ra bởi thiếu niên và dành cho thiếu niên nhằm cổ võ việc sử dụng truyền thông xã hội một cách an toàn và tốt đẹp hơn.
"Tôi có mặt ở đây để tranh đấu cho lẽ phải," Kim phát biểu. "Nếu bạn nói với tôi, con bé 13 tuổi rằng tôi đứng đây như thủ lãnh của phong trào này, tôi hẳn sẽ cười vào mặt bạn. Những người trên truyền thông xã hội và trên những cơ sở thông tin này đã thuyết phục tôi rằng tôi không là gì khác hơn một 'con bé mập ú.' Tôi đã phấn đấu rất nhiều và vẫn còn phấn đấu để đến đây ngày hôm nay," cô giải thích.
Kim thông báo, "Tôi có mặt ở đây để chứng tỏ rằng tôi không chỉ là một 'con bé mập' nhưng tôi còn là một phụ nữ thông minh và một người phụ nữ mạnh mẽ xứng đáng được tôn trọng, và "cái chất Á Châu" của tôi không phải là lý do để xóa bỏ những thành quả tôi đạt được."
Kim là người hỗ trợ đạo luật vừa mới được thông qua, đòi hỏi phải có sự minh bạch về nguồn gốc những thông tin và đặt nhiều mức kiểm soát đối với truyền thông xã hội.
Cô kêu gọi người lớn hãy "làm chuyện phải." Lờ đi ảnh hưởng tiêu cực mà việc bắt nạt dựa trên thù ghét phổ biến trên mạng truyền thông xã hội gây ra có thể đưa đến những hậu quả nghiêm trọng.
"Ngày nào tôi cũng nhận được email hoặc tin nhắn từ những thiếu niên ở nhiều nơi nói rằng truyền thông xã hội là nguyên do căn bản khiến họ muốn kết liễu mạng sống mình. Quý vị không nên để con cái bén mảng đến một nơi chốn luôn khiến các em muốn tự giết mình. Mạng xã hội không được tạo ra cho trẻ em, mà cho người lớn," Kim phát biểu.
"Tất cả mọi thứ đều có những biện pháp phòng ngừa ngoại trừ mạng xã hội," Kim nhấn mạnh. "Bạn không cho phép con cháu bạn chạy xe đạp mà không đội mũ an toàn, bạn không cho phép một em bé vào nhà bếp mà không khóa các ngăn tủ, bạn cũng không nên để trẻ em lên mạng xã hội nơi thúc dục chúng tự sát. Ở đâu cũng có những biện pháp an toàn ngoại trừ mạng xã hội."
Cho đến bây giờ.
Niềm hy vọng là việc thông qua đạo luật mới mẻ này sẽ thay đổi không gian mạng.
"Tôi muốn nói với trẻ em rằng tiếng nói của các em vĩnh viễn có giá trị hơn bất kỳ tiếng nói của ai khác trên mạng xã hội. Tôi có mặt ở đây để hỗ trợ các em," Kim phát biểu.
Ngoài những người trẻ, nhóm người dễ tổn thương nhất để trở thành nạn nhân của thù ghét trên mạng còn có phụ nữ, dân da màu, những nhóm tôn giáo thiểu số bao gồm cộng đồng Do Thái và di dân.
Mới đây, một nghiên cứu do Liên Minh Chống Nhục Mạ (ADL) ghi nhận sự gia tăng đến mức nghiêm trọng của việc xách nhiễu người Mỹ Gốc Á Châu, liên hệ đến sự gia tăng những vụ thù ghét nhắm vào người Á Châu. Nghiên cứu này cũng cho thấy nhóm LGBTQ+ trải nghiệm mức xách nhiễu cao nhất trong những người trả lời nghiên cứu, và gần tới một nửa những người trẻ lứa tuổi 13-17 trải qua vài hình thức xách nhiễu qua mạng xã hội.
Linda Ng, chủ tịch quốc gia của tổ chức Yểm Trợ Người Mỹ Gốc Á Châu Thái Bình Dương (một tổ chức quốc gia bảo vệ quyền dân sự) cho biết bà không ngạc nhiên trước những kết quả ADL thu lượm được bởi cộng đồng Á Châu "trải nghiệm điều đó hàng ngày."
"Chúng tôi thất vọng trước sự thiếu vắng luật lệ và việc thực thi đối với sự thù ghét trên những cơ sở truyền thông lớn. Cứ mười người Mỹ gốc Á thì có tám người báo cáo đã từng bị bắt nạt hoặc xách nhiễu qua lời nói," Ng cho biết.
Sự gia tăng xách nhiễu và thù ghét qua lời nói nhắm vào cộng đồng Á Châu, Ng nói, "Chúng tôi đã biết điều đó - khi những phụ nữ Mỹ gốc Á châu và hải đảo Thái Bình Dương [AAPI] nhận được những tin nhắn xách nhiễu tình dục qua những trang mạng, chúng tôi bị mắng là hãy cuốn gói về xứ sở chúng tôi như những con người mạt hạng, nói COVID-19 là 'bệnh Á Châu,' và chúng tôi bị nghe điều đó hàng ngày. Cộng đồng chúng tôi tiếp tục sống trong sợ hãi, và điều quan trọng là truy trách nhiệm lên những cơ quan truyền thông xã hội. Chúng tôi đã quá mệt mỏi với chuyện đó - chúng tôi nghe đủ rồi, chúng tôi muốn hành động."
Hai Đạo Luật Về Truyền Thông Xã Hội Được Ký Bởi Thống Đốc
Sau hai năm tranh đấu với sự đối lập mạnh mẽ từ các công ty truyền thông lớn, dân biểu Jesse Gabriel, Buffy Wicks và Jordan Cunningham đã thành công trong việc đệ trình hai dự thảo luật mà họ là tác giả, hai đạo luật đã được Thống Đốc ký vào tháng này: AB 587, Đạo Luật Về Sự Rõ Ràng Và Trách Nhiệm Cơ Quan Truyền Thông Xã Hội (Gabriel), và AB 2273, Đạo Luật Về Kế Hoạch Phù Hợp Với Tuổi Tác (Wicks, Cunningham).
Assembly Bill 587 của Gabriel đòi hỏi sự minh bạch và trách nhiệm từ những công ty truyền thông xã hội, yêu cầu các cơ sở truyền thông của họ công bố và liệt kê chính sách của họ trong đó có thông tin thất thiệt, thù ghét trên mạng, tính cực đoan và sự xách nhiễu.
"Đạo luật này sau cùng đã vén lên tấm màn và đòi hỏi những công ty truyền thông cung cấp sự minh bạch và nhìn nhận trách nhiệm với truyền thông xã hội," Gabriel phát biểu.
"Truyền thông xã hội đã tạo những cơ hội đáng mơ ước nhưng cũng đem lại những thử thách và đe dọa thực sự - nhất là khi liên quan đến chuyện bảo vệ con cháu của chúng ta và nền dân chủ của đất nước chúng ta," Gabriel nói.
"Lần đầu tiên, đạo luật này buộc các công ty truyền thông xã hội chính phải chính thức công bố chính sách điều hành các nội dung, và báo cáo những dữ kiện chính về cách họ áp dụng những chính sách này, đồng thời phải lương thiện khi thổi phồng một lập luận nào đó trong khi bưng bít những tiếng nói khác," Gabriel phát biểu, ông còn cho biết sự kiện các cơ quan truyền thông xã hội phát tán sự thù ghét, phóng đại những nội dung cực đoan và nguy hiểm đưa đến sự phân cực chính trị.
Một bản tường trình năm 2016 của Facebook cho biết 64 phần trăm số người gia nhập nhóm cực đoan trên Facebook chỉ vì thuật toán của công ty giới thiệu đến với họ, và những hậu quả cho thấy rõ ràng như thế.
"Hãy suy nghĩ về những cuộc giết người tập thể bằng súng đạn trên đất nước này," Gabriel nói. Rất nhiều nghiên cứu cho thấy có mối liên hệ giữa bạo động do thù ghét, giết người tập thể bằng súng và hoạt động trên mạng, ông nói. "Họ được cực đoan hóa qua sự phối hợp da trắng thượng đẳng và ý thức hệ cực đoan... truyền thông xã hội đã trở thành chất liệu cho sự thù ghét."
Gabriel cũng ghi nhận, cùng với sự bành trướng của những phát biểu gây thù ghét, còn có những hậu quả của việc phân cực chính trị cực đoan trên mạng, gồm những thông tin sai lạc về COVID-19, mà theo ông đã góp phần rất nhiều vào việc ngại chích ngừa hoặc từ chối không chích ngừa.
"Lẽ ra các công ty kỹ thuật cần phải thực hiện sự minh bạch trong cách tạo ảnh hưởng trên lập trường của quần chúng. Công chúng cũng như các nhà làm chính sách cần biết khi nào thì các công ty truyền thông phóng đại những ý kiến này và bưng bít những ý kiến khác."
Gabriel xác nhận đạo luật là một bước quan trọng trong một nỗ lực rộng lớn hơn để "bảo vệ những cộng đồng dễ bị tổn thương và đòi những công ty Kỹ Thuật Lớn phải nhận lãnh trách nhiệm."
Bảo Vệ Những Dữ Kiện Thiếu Nhi
Đạo luật Assembly Bill 2273 của Wick và Cunningham ngăn cấm các công ty cung cấp dịch vụ trên mạng, các sản phẩm hoặc những đề mục sử dụng thông tin cá nhân của trẻ em; thu thập, buôn bán hay thâu tóm thông tin địa lý của các em; tự ý phác họa chân dung trẻ em; và lôi cuốn hoặc khuyến khích trẻ em cung cấp thông tin cá nhân.
Bà cho biết những biện pháp an ninh đã được thực hiện ở Anh Quốc nơi đạo luật tương tự đã được thông qua.
"[Ở Anh Quốc,] YouTube đã ngưng sử dụng chức năng tự động trình chiếu (autoplay) cho trẻ em dưới 18 tuổi và Google đã áp dụng chức năng tìm kiếm an toàn cho người dưới 18 tuổi, TikTok và Instagram đã tắt chức năng nhắn tin trực tiếp giữa trẻ em với những người lớn mà các em không tham gia theo đuổi, TikTok ngưng thao tác quá một thời gian nào đó. Những thứ này có thể xem là chuyện nhỏ nhưng là điều lớn lao cho hệ sinh thái nơi trẻ em sinh sống," Wick nhận định.
"Trẻ em đã bị tấn công dồn dập qua mạng xã hội bởi thông tin không phù hợp và các em chưa đủ khả năng để hiểu tất cả những tin tức đổ dồn vào các em, vì vậy chúng ta cần nắm vững là khi những sản phẩm được tạo ra, chúng phải phù hợp và an toàn cho con cháu của chúng ta."
"Tôi rất mừng cho các em là Thống Đốc đã ký luật AB 2273, yêu cầu các cơ sở truyền thông có sự tham dự của trẻ em phải được sắp xếp sao cho phù hợp với lứa tuổi của các em," dân biểu Jordan Cunningham nhấn mạnh, "có những kẻ săn mồi ngoài kia và chúng dùng những phương tiện này để tóm bắt trẻ em, và điều đó hoàn toàn không chấp nhận được."
Với đạo luật này, California đã dẫn đầu quốc gia trong việc tạo dựng những trải nghiệm mới mẻ qua thông tin trên mạng an toàn cho trẻ em. Chúng ta còn nhiều việc phải làm để đương đầu với cuộc khủng hoảng sức khỏe tâm thần của thiếu niên," ông ghi nhận.
"Đặc biệt là chúng ta biết các công ty truyền thông lớn tạo ra những sản phẩm để gây nghiện cho trẻ em, và hậu quả là một số lớn các trẻ em đó bị những tổn thương nghiêm trọng... như trầm cảm, ý nghĩ tự tử, lo âu và rối loạn ăn uống. Bảo vệ trẻ em trên mạng không chỉ là điều hợp lẽ phải, mà còn cứu mạng sống con người nữa."
Nhóm Công Tác Bảo Vệ Dữ Kiện Trẻ Em sẽ được thành lập như một phần của Đạo Luật Kế Hoạch Phù Hợp Tuổi Tác của California nhằm đưa ra bản tường trình cho quốc hội vào tháng 01, 2024 về những cách tốt nhất để áp dụng đạo luật.
Các nhà lập pháp đưa ra một thông điệp thống nhất: "Trẻ em và các cộng đồng xứng đáng được an toàn. California là nơi xuất phát của thế giới kỹ thuật số và với đạo luật được lưỡng đảng chấp thuận, chúng ta hy vọng California sẽ là tiểu bang dẫn đầu."
"Khi California bước đi, thì cả nước cũng bước theo," Wick nói
This resource is supported in whole or in part by funding provided by the State of California, administered by the California State Library in partnership with the California Department of Social Services and the California Commission on Asian and Pacific Islander American Affairs as part of the Stop the Hate program. To report a hate incident or hate crime and get support, go to CA vs Hate.
