Повідомлення telegram каналу - @penny_press

Тепер і вам цікаво буде почитати про твіти драгквінс і як на них реагує штучний інтелект.
Тл:др:
- агресивність у соціальній мережі -- часто самозахист і підготовка схожих на себе людей до ворожого середовища, навчання їх захисту і вміння помітити та вказати на небезпеку;
- недостатньо просто натренувати ШІ на агресивних словах -- без цільного контекстуального аналізу політичного і соціального середовища будь-який фільтрувальний ШІ буде безпідставно замовчувати (часто зовсім непередбачувані) частини спільнот, які не несуть небезпеки.
Основні цитати:
The results indicate that a significant number of drag queen Twitter accounts were considered to have higher perceived levels of toxicity than Donald Trump’s and white supremacists’ ones. On average, drag queens’ accounts toxicity levels ranged from 16.68% to 37.81%, while white supremacists’ averages ranged from 21.30% to 28.87%; Trump’s lies at 21.84%.
One possible reason behind such distortions and biases is the challenge for AI technologies to analyse context. Perspective’s tool seem to rely much more on the “general” perceived toxicity of given words or phrases instead of assessing the toxicity of ideas or ideology, which can be very contextual.
Cases in which drag queens may actually use “toxic” language, but with a social and political value, often times to denounce or speak up against homophobia and other forms of discrimination, such as sexism and racism.
Since AI technologies such as Perspective do not seem to be fully able to grasp social context and recognize specific content as socially or politically valuable – as it is the case with the LGBTQ’s “insult rituals” – it is likely that automated decisions based on them would suppress legitimate content from LGBTQ people.