De kinder-app van YouTube heeft een konijnenholprobleem

Het bedrijf zegt dat het meer controle over autoplay toevoegt in de YouTube Kids-app.

Een telefoonscherm met het YouTube Kids-logo. Op de foto staan ​​ook een Rubiks kubus en ander kleurrijk klein speelgoed.

YouTube Kids geeft kinderen algoritmisch samengestelde video's die voor onbepaalde tijd worden afgespeeld.

Valera Golovniov/LightRocket/Getty Images

Dit verhaal maakt deel uit van een groep verhalen genaamd hercoderen

Ontdekken en uitleggen hoe onze digitale wereld verandert - en ons verandert.



YouTube Kids is een kleurrijke, uitgeklede versie van YouTube, vol animaties, felle kleuren en cartoonavatars die bedoeld zijn om de jongste internetgebruikers betrokken te houden. Als ze door de app scrollen, kunnen kinderen alles zien, van Nickelodeon-liedjesmashups tot grapseries tot bakvideo's - een vrolijk ogende microkosmos van echt YouTube.

Maar voorstanders van kinderveiligheid en sommige leden van het Congres zeggen dat er een probleem is met de app en de bijbehorende website: een autoplay-functie die ervoor zorgt dat de ene video na de andere blijft komen zonder pauze of onderbreking. Wanneer een video eindigt, wordt automatisch een andere video afgespeeld die is geselecteerd door het aanbevelingen-algoritme van YouTube Kids. Op dit moment is automatisch afspelen standaard ingeschakeld en is er geen manier om automatisch afspelen uit te schakelen, dus YouTube Kids zal kinderen algoritmisch samengestelde video's blijven geven die voor onbepaalde tijd worden afgespeeld, tenzij iemand toevallig komt opdagen en tussenbeide komt.

Als je een 6- of 7-jarig kind bent, kijk je eigenlijk naar wat je wordt aanbevolen, vertelde Rep. Lori Trahan (D-MA), een congreslid wiens kinderen de app gebruiken, aan Recode. Als je dat combineert met de eindeloze lus van autoplay, en als je niet naast je kind zit terwijl ze naar YouTube kijken, kan dat vrij snel van je afkomen.

Trahan zegt dat ze zich zorgen maakt de standaardinstelling voor automatisch afspelen is een manipulatieve ontwerptactiek die bedoeld is om kinderen zo lang mogelijk online te houden, een punt van zorg dat ze ter sprake bracht met Google-CEO Sundar Pichai tijdens een hoorzitting in maart over desinformatie . Ze is niet alleen. EEN recente brief aan YouTube-CEO Susan Wojcicki van de subcommissie consumenten- en economisch beleid van de House Oversight Committee, die een onderzoek naar het platform heeft gestart, zegt dat de app schadelijk is omdat het de verantwoordelijkheid van het kind legt om te stoppen met kijken, in plaats van een natuurlijke pauze of eindpunt.

Nadat Recode had gevraagd naar de onmogelijkheid om automatisch afspelen in de Kids-app uit te schakelen, zei YouTube: In de komende maanden zullen gebruikers ook de autoplay-functie in YouTube Kids kunnen bedienen. Het bedrijf zei niet waarom het die beslissing nam of waarom het zo lang zou duren om de functie te veranderen.

Maar wetgevers proberen nog verder te gaan. Een vorig jaar voorgestelde wet genaamd de Act Internet Design and Safety (KIDS) voor kinderen zou het gebruik van autoplay in op kinderen gerichte apps volledig verbieden, en experts van een recent panel van de Federal Trade Commission over donkere patronen gericht op kinderen benadrukte autoplay in video-apps voor kinderen als een punt van zorg, waarbij sommige specifiek naar YouTube wezen. (Donkere patronen, zoals Sara Morrison van Recode heeft) uitgelegd , zijn webdesignfuncties die mensen misleiden of onder druk zetten om online bepaalde keuzes te maken.)

Platforms zoals YouTube Kids hebben standaard een kindgericht ontwerp nodig, dus hoewel de toevoeging van de autoplay-besturing een stap in de goede richting is, schiet het hopeloos tekort bij wat ouders en hun kinderen zouden moeten kunnen verwachten, vertelde Rep. Trahan aan Recode in reactie op de wijziging van YouTube.

Ondertussen zet de subcommissie van het Huis haar onderzoek naar de YouTube Kids-app voort en heeft ze documenten opgevraagd met betrekking tot gedragsanalyses en pilots die YouTube heeft uitgevoerd voor functies zoals autoplay. Een senior Democratische medewerker bevestigde aan Recode dat onderzoekers van ouders en kinderveiligheidsgroepen hadden gehoord dat de functie problematisch was. YouTube zei dat het een eerste reactie heeft gegeven aan de subcommissie en in de komende weken meer informatie zal verstrekken.

Maar te midden van een pandemie waardoor ouders aan het werk zijn en kinderen thuis leren, waarschuwen critici dat kleine ontwerpkeuzes het moeilijker maken voor ouders die redelijke grenzen proberen te stellen aan wat jonge kinderen online zien. Sommigen zeggen functies zoals geforceerd autoplay lijmt kinderen manipulatief aan hun platforms met inhoud van lage kwaliteit. Dus zelfs als YouTube de optie toevoegt, zijn sommigen bang dat het standaard ingeschakeld laten - of helemaal toestaan ​​- nog steeds schadelijk kan zijn.

notenmelk is geen melk billboard

De autoplay van YouTube Kids neemt de controle weg van ouders

YouTube Kids is grotendeels gemodelleerd naar de reguliere versie van YouTube. De startpagina van de app is een vereenvoudigde versie van de YouTube-startpagina en suggereert verschillende video's in categorieën zoals Lezen en Shows. Gelanceerd in 2015 , is YouTube Kids ontworpen om alleen content weer te geven die is gericht op kinderen. Dat omvat tekenfilms en homevideo's, maar ook video's van productie-outfits zoals Disney en Vox die van YouTube naar het YouTube Kids-platform worden getrokken. YouTube zegt er zijn nu meer dan 35 miljoen wekelijkse kijkers op YouTube Kids in meer dan 80 landen .

YouTube Kids is geen onbekende in controverse. In het verleden is de app bekritiseerd omdat het gewelddadige en geseksualiseerde inhoud toestaat, en het bedrijf waarschuwt zelfs ouders dat zijn systemen mogelijk niet alle ongepaste inhoud uitsluiten. Een verslag uit 2017 van de New York Times ontdekte dat kinderen gewelddadige video's tegenkwamen, waaronder populaire tekenfilmfiguren voor kinderen.

YouTube Kids heeft deze video van het platform verwijderd nadat Recode erom had gevraagd.

Screenshot van YouTube Kids

In 2019 ontdekte de Federal Trade Commission dat YouTube had reclame gemaakt voor zijn populariteit onder kinderen aan speelgoedmakers zoals Mattel en Hasbro en verzamelden op ongepaste wijze informatie over kinderen, naar verluidt in strijd met de Online privacybeschermingsregel voor kinderen (COPPA), die de gegevens beperkt die platforms kunnen verzamelen van kinderen waarvan ze weten dat ze jonger zijn dan 13. Het bureau dwong YouTube om grote wijzigingen aan te brengen in op kinderen gerichte inhoud op zijn hoofdsite. In tegenstelling tot het reguliere YouTube-platform, heeft YouTube Kids nu de toestemming van de ouders nodig om de gegevens van kinderen te verzamelen (hoewel normaal YouTube dat niet doet). YouTube kreeg ook een boete van 170 miljoen dollar.

Maar sommige ouders die het YouTube Kids-platform hebben gebruikt, waaronder ouders in het Congres, zeggen dat de kinderversie nog steeds manipulatieve functies heeft, zoals autoplay, die het voor gezinnen moeilijker maken om hun kinderen te beschermen.

Het voelt alsof dit is ontworpen om kinderen een eindeloze stroom video's achter elkaar te laten kijken en ervoor te zorgen dat ze nooit voorbij zijn, vertelde Amanda Kloer, campagneleider bij de kinderveiligheidsgroep ParentsTogether die de app met haar kinderen gebruikt, aan Recode. Als je dat combineert met de algoritmegestuurde aanbevelingen, die inhoud tonen die ouders niet hebben bekeken en niet hebben goedgekeurd, kun je heel gemakkelijk in situaties komen waarin kinderen inhoud bekijken die bedoeld was voor oudere kinderen, die een individuele ouder of familie vindt verwerpelijk.

Verwant

De gouden eeuw van YouTube voor kinderen is voorbij. Mooi zo.

Het is vermeldenswaard dat automatisch afspelen ook een functie op YouTube is, maar het kan worden uitgeschakeld met een simpele schakelaar. Het is niet duidelijk waarom YouTube Kids is ontworpen om te voorkomen dat automatisch afspelen wordt uitgeschakeld of waarom YouTube er zo lang over heeft gedaan om klachten over de functie, die ouders al geruime tijd hebben gemaakt, op te lossen. EEN verzoekschrift aan Susan Wojcicki, CEO van YouTube, van de groep ParentsTogether en digitale rechtengroep Fight for the Future dringt er bij het bedrijf op aan om automatisch afspelen standaard uit te schakelen voor zowel YouTube als YouTube Kids, en een bredere reeks groepen die deel uitmaken van een campagne genaamd Stop met het bespioneren van kinderen noemt YouTube-autoplay als een voorbeeld van een verslavende en manipulatieve functie die ouders niet kunnen controleren.

Op dit moment biedt YouTube Kids wel aan sommige bedieningselementen . Er is een timerfunctie waarmee ouders een horlogelimiet van maximaal een uur kunnen instellen. Maar het is niet de standaardinstelling en ouders moeten de timer opnieuw instellen elke afzonderlijke kijksessie . Een andere functie stelt gebruikers in staat om bepaalde video's of bepaalde kanalen vooraf te selecteren, zodat alleen inhoud daarvan wordt weergegeven en ouders kunnen voorkomen dat hun kinderen de zoekfunctie gebruiken.

Geen van deze functies is hetzelfde als de mogelijkheid om autoplay in de Kids-app uit te schakelen, zeggen critici. In feite, berichten op online forums zoals StackExchange en Quora laat zien dat in ieder geval enkele ouders hebben gezocht naar manieren om autoplay op YouTube Kids uit te schakelen, schijnbaar zonder resultaat. Josh Golin, de uitvoerend directeur van de op kinderen gerichte groep Campaign for a Commercial-Free Childhood, zegt dat zijn organisatie eerder de kwestie van de autoplay-functie van YouTube Kids rechtstreeks naar YouTube had gebracht.

Kinderen zouden naar YouTube moeten gaan om naar specifieke programma's te kijken, niet naar YouTube om te kijken wat YouTube hen aanbeveelt totdat een ouder binnenkomt en ze eraf trekt, vertelde Golin aan Recode.

De autoplay van YouTube Kids is een toegangspoort tot aanbevelingen voor twijfelachtige inhoud voor kinderen

De bezwaren tegen automatisch afspelen zijn niet alleen dat kinderen worden aangemoedigd om te blijven kijken. Het is dat de autoplay-functie fungeert als een toegangspoort tot algoritmisch geselecteerde inhoud waar ouders weinig controle of inzicht in hebben. Het YouTube Kids-algoritme kan uiteindelijk een eindeloze voorraad afleveringen produceren met de favoriete tekenfilm van een kind, of video na video van een beroemdheid die verhalen voorleest. Maar dat algoritme kan ook inhoud van lage kwaliteit en zelfs schadelijke inhoud bieden die ouders niet per se verwachten op een app voor kinderen.

Kloer, van ParentsTogether, zegt dat ongepaste inhoud die op YouTube Kids is verschenen, video's bevat die aanzetten tot diëten en caloriebeperkingen, evenals gewelddadige tekenfilms. Kloer zegt dat ze bepaalde inhoud heeft gemarkeerd die ongeordend eten promootte, wat YouTube verwijderde, maar zegt dat ze andere soortgelijke video's in de app heeft gezien, waardoor de autoplay en algoritmische aanbevelingen zo zorgelijk worden.

In een uur dat ze vorige maand aan het YouTube Kids-profiel van een voorschools kind besteedde, kon Kloer video's vinden die kinderen aanmoedigden om hun shirts sexyer te maken, een video waarin een kleine jongen een meisje uithaalt over haar gewicht, en een video in waarin een geanimeerde hond voorwerpen uit de kont van een bewusteloos geanimeerd nijlpaard trekt.

burgeroorlog kaarten noord en zuid

YouTube heeft deze video van YouTube Kids verwijderd nadat Recode erom had gevraagd.

Screenshot van YouTube Kids

Anderen hebben soortgelijke verhalen gedeeld. Courtney, een moeder wiens achternaam wordt achtergehouden om de privacy van haar kind te beschermen, vertelde Recode dat YouTube Kids-autoplay in 2019 haar 6-jarige dochter naar een geanimeerde video leidde die zelfmoord aanmoedigde.

Eerst vond ik het een geweldige app, zei Courtney. Zo was het een tijdje totdat we die vreselijke video vonden.

Soms kan het systeem alleen maar leiden tot inhoud van lage kwaliteit. Benjamin Burroughs, een hoogleraar media aan de Universiteit van Nevada in Las Vegas , zegt dat zijn 2-jarige zoon goed thuis is in het gebruik van de spraakgestuurd zoeken op basis van microfoon op YouTube Kids. Zijn kind zegt woorden als bal en truc om trickshotvideo's en video's van Dude Perfect te vinden, een sportkanaal dat hij leuk vindt.

Dat leidt gewoon een pad van dit soort merkinhoud in via deze en familievlogs die automatisch worden gegenereerd voor kinderen, zegt Burroughs over de autoplay-functie, waarbij hij opmerkt dat kinderen kunnen worden blootgesteld aan wat lijkt op merkinhoud die dat niet is t duidelijk aangeduid als reclame.

Dat YouTube Kids een probleem heeft met contentmoderatie is geen nieuws. Maar experts vertelden Recode dat gebruikers van YouTube Kids, zonder een manier om automatisch afspelen permanent uit te schakelen, nog minder controle hebben over de inhoud die hun kinderen zien.

Het beschermen van kinderen en gezinnen is een topprioriteit voor ons. We werken er hard aan om ervoor te zorgen dat de video's in YouTube Kids geschikt zijn voor de leeftijd en verwijderen snel video's die ons beleid schenden wanneer ze door gebruikers worden gemarkeerd, vertelde een YouTube-woordvoerder aan Recode. YouTube heeft vijf van verschillende video's die zijn gemarkeerd door Recode verwijderd uit de Kids-app.

Bezorgd over wat je ziet op kinder-apps? Heb je een tip? Stuur een e-mail naar rebecca.heilweil@protonmail.com.

Ondertussen werkt YouTube aan het overzetten van nog meer reguliere YouTube-content naar YouTube Kids. In februari heeft het bedrijf zei het zal een functie toevoegen waarmee houders van ouderaccounts video's en kanalen van gewone YouTube naar de YouTube Kids-app kunnen verplaatsen, wat bijdraagt ​​aan de hoeveelheid inhoud die momenteel aanwezig is. Later die maand heeft het bedrijf ook zei het test een Google-accountfunctie onder toezicht waarmee ouders hun kinderen geleidelijk aan meer van gewone YouTube kunnen blootstellen.

Sommigen verwelkomen de verandering van YouTube. De geforceerde autoplay-functie van YouTube Kids verhoogde de tijd van kinderen op de app en leidde tot hun blootstelling aan meer lege inhoud. Ik ben blij dat YouTube heeft gereageerd op een van de belangrijkste zorgen die ik in mijn onderzoek naar voren heb gebracht en deze functie als gevolg daarvan aan het veranderen is, vertelde vertegenwoordiger Raja Krishnamoorthi aan Recode. Ouders meer controle geven zal leiden tot betere resultaten voor onze kinderen.

Hoe YouTube Kids de autoplay-functie precies zal updaten, valt nog te bezien. Golin, van de Campaign for a Commercial-Free Childhood, waarschuwt als autoplay een optie blijft, dat de veiligste opties de standaardinstelling van YouTube Kids moeten zijn. Het toevoegen van een voordelige optie die niet de standaardinstelling is, kan uiteindelijk leiden tot het toevoegen van een nieuwe stap die ouders misschien niet kiezen, vooral in deze gekke tijden.

hoe ontwijken rijke mensen belastingen?

Tegelijkertijd vinden sommigen dat autoplay helemaal niet beschikbaar zou moeten zijn in apps voor kinderen.

Veel van de consumentenbelangengroepen hebben veel van dit onderzoek verzameld [en] gekoppeld aan Google, Facebook, YouTube en anderen, een beetje langs de lijn, gebruikmakend van de manipulatieve tactieken, online tactieken om kinderen betrokken te houden, Rep. Kathy Castor (D-FL), wiens wetgeving de functie in op kinderen gerichte platforms volledig zou verbieden, vertelde Recode. De autoplay is een van de meest flagrante.

Voorlopig heeft YouTube niet gezegd of YouTube Kids standaard automatisch afspelen aan of uit zal hebben staan. Het is ook onduidelijk hoe gemakkelijk het zal zijn om autoplay uit te schakelen. Toch herinnert de autoplay in YouTube Kids eraan dat ontwerpkeuzes die door technische platforms worden gemaakt, van invloed zijn op de manier waarop ouders en kinderen omgaan met technologie en waar regelgevers kunnen ingrijpen.