Dlaczego tak trudno jest uczynić technologię bardziej zróżnicowaną

Tracy Chou, członek naszej listy 2017 Innovators Under 35, opowiada o przeszkodach, jakie napotkała jako przedsiębiorca technologiczny.

Za pomocą

• Wudan Yan strona archiwum

30 czerwca 2021

Andrea Daquino

W 2017 r. MIT Technology Review uhonorował Tracy Chou jako jednego z naszych 35 Innowatorów poniżej 35. roku życia. W tamtym czasie Chou pracował nad ujawnieniem problemów związanych z różnorodnością Doliny Krzemowej. Jako inżynier na Pintereście opublikowała szeroko rozpowszechniony post na blogu wzywa firmy technologiczne do udostępniania danych o tym, ile kobiet pracowało w ich zespołach inżynierskich. Zebrała ich odpowiedzi w publiczna baza danych pokazało to, jak jednorodne jest wciąż wiele zespołów technicznych w czołowych firmach.

Mniej więcej rok później Chou założył firmę o nazwie Blokuj imprezę który ma na celu nękanie w Internecie, dając użytkownikom Twittera większą kontrolę nad tym, które tweety pojawiają się w ich kanale i wzmiankach. Serwis zarejestrował pierwszych płacących klientów w styczniu.

Ta historia była częścią naszego wydania z lipca 2021 r.

• Zobacz resztę numeru
• Subskrybuj

W swojej nowej firmie Chou chce rozwiązać niektóre problemy, których doświadczyła z pierwszej ręki w branży technologicznej — w tym rodzaj nękania w Internecie, którego była celem. Tutaj kontaktujemy się z Chou, która mieszka w San Francisco, aby dowiedzieć się więcej o tym, czego potrzeba, aby dokonać zmian w sektorze technologicznym i z czym muszą się zmierzyć przedsiębiorcy tacy jak ona .

Tracy Chou, jak powiedział Wudan Yan: Kiedy ostatnio rozmawialiśmy, właśnie opuściłem Pinterest. Zawsze ciągnęły mnie do mniejszych firm: dołączyłem do Pinteresta, gdy miał około 10 pracowników i odszedłem, gdy miał około 1000. Poczułem, że nadszedł czas, abym ruszył dalej i zrobił coś nowego.

Pracowałem dla tak wielu startupów i dostrzegłem niektóre strukturalne problemy związane ze start-upami i finansowaniem oraz to, jak te czynniki wpływają na rozwiązywane problemy. Wielu założycieli w naturalny sposób pracuje nad problemami, które ich bezpośrednio dotyczą: łatwiej jest wiedzieć, co jest ważne, a co można poprawić dzięki technologii.

Myśląc o kolejnych krokach, pomyślałem o produktach, nad którymi pracowałem i porównałem je z pytaniami typu: Czy mnie to obchodzi? Czy jest coś, co można zrobić, co może być komercyjnie opłacalne? Jest wiele naprawdę ważnych kwestii, których nie rozwiąże w naturalny sposób startup.

Skończyło się na Block Party, które łączy kilka różnych wątków z mojego środowiska. Pracowałem jako inżynier w różnych firmach zajmujących się platformami społecznościowymi i pracowałem nad monitorowaniem, moderowaniem i podnoszeniem jakości treści oraz zastanawianiem się, jak projekt produktu wpływa na zachowanie społeczności. Nie tylko stworzyłem narzędzia do moderacji w Quora, które sprawdzały jakość treści, ale także podjąłem działania karne wobec osób, które naruszyły zasady witryny.

Spędziłem też dużo czasu, obserwując, jak brak różnorodności i reprezentacji w zespołach oznaczał, że produkty były budowane w przekrzywiony sposób. Na przykład niezróżnicowane zespoły ludzi, które generalnie nie są celem nadużyć i nękania, nie mają skłonności do tworzenia zabezpieczeń przed tym w swoich aplikacjach.

Ostatnią częścią mojej przeszłości, która doprowadziła mnie do Block Party, było po prostu bycie bardziej ukierunkowanym na nękanie. W ciągu ostatniego roku zdecydowanie dostałem więcej antyazjatyckiego nękania w Internecie. Niektóre z nich były naprawdę skierowane do mnie przez osoby, a innym razem przyciągałem trolle samą obecnością w Internecie.

Gdybyś mógł jutro odrodzić się jako ktokolwiek na świecie, jak zaprojektowałbyś dzisiejszy świat? Nie chciałbyś projektować świata, który byłby bardzo nierówny, w którym większość ludzi znajduje się na dole, ponieważ najprawdopodobniej to możesz być ty, gdybyś urodził się jako ktokolwiek jutro.

Do Internetu trafiłem bardzo młody i na początku internet był świetnym sposobem na nawiązywanie kontaktów ze znajomymi. Korzystałem z AOL Instant Messenger, co było lepszym sposobem na czatowanie z przyjaciółmi w szkole średniej: nie miałem telefonu komórkowego i nie mogłem przejąć linii telefonicznej, którą dzieliłem z rodziną. Byłem także na niektórych platformach blogowych, takich jak Xanga i LiveJournal. W tamtym czasie były to fajne sklepy.

Jednak dość wcześnie ktoś założył anonimową stronę Xanga poświęconą nienawiści do mnie. Myślę, że to był ktoś ze szkoły, bo nawiązywał do rzeczy z liceum. Wiele z tego mnie nienawidziło, ponieważ dobrze sobie radziłem w nauce. Nie przeszkadzało mi to wtedy tak bardzo, jak wtedy, gdy dorosłam i spojrzałam wstecz. Wtedy myślałem, że ta osoba jest po prostu niepewna i zazdrosna. Pomyślałem, że to trochę smutne i pomieszane, że ktoś napisze pełne posty, które będą próbować mnie pokonać.

Nie zgłosiłem tego. Komu bym to zgłosił? Nawet nie przyszło mi do głowy, żeby pójść do szkoły i zgłosić to. I niekoniecznie chciałem, aby moi nauczyciele lub administratorzy szkoły również widzieli tę stronę, ponieważ była to dość nienawistna treść.

Moi rodzice nie wychowali mnie na kogoś, kto jest szczery i kwestionuje status quo. Zdecydowanie nie zachęcano mnie do wypowiadania się przeciwko systemowi w jakikolwiek sposób. Podobnie jak wiele innych dzieci azjatyckich imigrantów do USA, dorastałem wierząc, że to nie jest mój kraj, a moi rodzice i ja staramy się tu znaleźć dla siebie możliwości. Nie mieliśmy siatki bezpieczeństwa. Dorastałem bardziej z mentalnością z głową w dół, aby wykonywać dobrą pracę, ciężko pracować i starać się to zrobić.

Mój tata, który jest inżynierem, dał mi filozoficzny eksperyment myślowy, kiedy byłem całkiem młody: Gdybyś mógł jutro odrodzić się jako ktokolwiek na świecie, jak zaprojektowałbyś dzisiejszy świat? Nie chciałbyś projektować świata, który byłby bardzo nierówny, w którym większość ludzi znajduje się na dole, ponieważ najprawdopodobniej to możesz być ty, gdybyś urodził się jako ktokolwiek jutro. Chciałbyś zaprojektować znacznie bardziej równy świat. To sprawiło, że pomyślałem, że nie podobało mi się, że świat jest tak nierówny i tak wielu ludzi miało mniej szczęścia niż ja.

To uczucie skłoniło mnie do skorzystania z przywileju, jaki mam i oddania go dalej, aby uczynić świat trochę bardziej sprawiedliwym. Pojechałem do Stanford; Pracowałem w firmach, które ludzie z branży technologicznej uważają za wiarygodne. Mogę więc spróbować wzmocnić więcej głosów lub z różnych perspektyw.

Powiązana historia

Feministyczny internet byłby lepszy dla wszystkich

Życie online kobiet jest toksyczne i przepełnione nienawiścią i seksizmem. Niektórzy aktywiści twierdzą, że nadszedł czas, aby ponownie wyobrazić sobie, jak to wszystko działa.

Kiedy zdecydowałem się na Block Party, zrobiłem trochę researchu i rozmawiałem z innymi, którzy pracowali w walce z molestowaniem oraz z ludźmi, którzy tworzyli rozwiązania, aby zrozumieć, jak wyglądał rynek. Niewiele firm rozumiało prawdziwe doświadczenie użytkowników w radzeniu sobie z nękaniem — wydawało się, że wiele osób podchodzi do tego problemu wyłącznie z biznesowego punktu widzenia, ponieważ nie wiedzieli, jak to jest samemu go doświadczyć. Niektórzy ludzie budowali modele uczenia maszynowego do wykrywania toksycznych treści i myśleli, że to rozwiąże problem.

Jako ktoś, kto się tym zajmuje, znacznie bardziej rozumiem emocjonalny wpływ. Są pewne rzeczy, które są emocjonalnie przygnębiające do przeczytania, nawet jeśli jest mało prawdopodobne, że zostaną oznaczone przez algorytm. Na przykład, otrzymałem kiedyś długą wiadomość od mężczyzny, który zasadniczo powiedział: „Powinieneś więcej się uśmiechać, a wtedy będziesz bardziej atrakcyjna”.

Ta wiadomość niepokoiła mnie przez kilka tygodni, zanim zdałam sobie sprawę, jak bardzo była ona lekka i niestosowna. Wpływ był bardzo emocjonalny, a znaczenie przesłania – nie wspominając o antyfeministycznym i regresywnym punkcie widzenia – sięga głębiej niż to, co wychwyciłyby jakiekolwiek algorytmy.

Moje wyzwania w zdobyciu funduszy na Block Party zaczęły się, gdy złożyłem podanie o udział w zimowych zajęciach 2020 na Kombinator Y , akcelerator przeznaczony do finansowania start-upów na wczesnym etapie rozwoju. W Dolinie Krzemowej, jeśli szukasz referencji, Y Combinator jest jednym z lepszych, jakie możesz zdobyć. Zgłosiłem się, jak na ironię, ponieważ spodziewałem się, że YC – który składa się głównie z białych mężczyzn, którzy niekoniecznie rozumieją problemy, z którymi chciałem się zmierzyć – będzie bardzo sceptyczny. Myślałem, że gdybym miał pieczątkę YC, mógłbym rozwiać część sceptycyzmu wokół mojego produktu.

Pojechałem na rozmowę kwalifikacyjną do kampusu YC w Mountain View w Kalifornii. Umieszczono kandydatów w różnych pokojach z panelem ankieterów, a każdy pokój miał listę ankieterów wydrukowaną na zewnątrz. Kiedy poszedłem do swojego pokoju, zobaczyłem tę listę nazwisk i pomyślałem: To nie będzie dobre. Spośród czterech imion trzech było białymi mężczyznami.

Wywiady trwały tylko 10 minut, a mój panel zaczął się od pytania, co buduję. Powiedziałem, że Block Party buduje narzędzia konsumenckie do radzenia sobie z nękaniem online i daje ludziom większą kontrolę nad ich doświadczeniami online. A pytanie, które otrzymałem, brzmiało: Powiedziałeś, że jest to produkt konsumencki, ale konsument sugeruje rynek masowy, a to jest bardzo niszowy problem. Prawidłowy?

Reszta wywiadu wyglądała mniej więcej tak: silne twierdzenie, które nastąpiło po prawej stronie? Cały ton wywiadu był następujący: nękanie w Internecie było małym problemem, który już został rozwiązany, więc dlaczego nad tym pracujesz? Wyszedłem z wywiadu wściekły.

Po tym, jak YC mnie odrzucił, zebrałem dodatkowe fundusze, aby przedłużyć moje finansowanie wstępne, około 1,5 miliona dolarów. Na niektórych rynkach może się wydawać, że to niezła suma pieniędzy, ale zatrudnienie inżynierów nie wystarczy, co oznacza, że ​​musiałem być bardziej kreatywny w sposobie, w jaki zbudowałem produkt — musiałem go zbudować sam. Nie ma szans, żeby Block Party dotarło tam, gdzie jest teraz, gdybym sam nie był bardzo silnym inżynierem.

Zeszłego lata, w ramach Napraw inkubator Internetu Mozilli , zostałem poproszony o zrobienie Reddit AMA w celu rozwoju Block Party. Początkowo odsunąłem to, ponieważ moja pierwsza reakcja brzmiała: Reddit to farma trolli. W pewnym momencie wyperswadowałem sobie początkowy instynkt. Pomyślałem, może nie będzie tak źle! Widziałem kilka dobrych AMA!

W ciągu 10 lub 15 minut od rozpoczęcia AMA trolle przejęły wątek, przedstawiając argumenty w złej wierze i ukrywając wszystkie moje odpowiedzi.

Ale w ciągu 10 lub 15 minut od rozpoczęcia AMA trolle przejęły wątek, przedstawiając argumenty w złej wierze i ukrywając wszystkie moje odpowiedzi. Mówili: Słuchaj, boi się odpowiadać na pytania. Odpowiedziałem, ale moje odpowiedzi po prostu zostały zakopane lub zniknęły. Zanim moderatorzy Reddita zamknęli wątek wiele, wiele godzin później, pojawiły się tysiące komentarzy, z których większość była okropnymi, okropnymi rzeczami. To było naprawdę traumatyczne przeżycie.

Potem pojawiło się kilka wątków na 4Chan, które odnosiły się do Reddit AMA, co skłoniło trolle 4Chan i Reddit do rozpoczęcia ataku na Block Party. Przesłali kilka zgłoszeń na naszą listę oczekujących za pomocą formularza rejestracyjnego i utworzyli setki kont z moim imieniem i zdjęciem profilowym na Substack i opublikowali rasistowskie, mizoginistyczne treści. Przez kilka tygodni wszędzie, gdzie korzystałem z Internetu, był to koszmar. Nie mogłem nawet ponownie zalogować się do Reddit, ponieważ moja skrzynka odbiorcza Reddit była przepełniona nękaniem. To ironia losu, że jeśli stworzę oprogramowanie zapobiegające nękaniu, po prostu będę za to nękany.

Mam prześladowcę — napastnika internetowego, który przeniósł się do rzeczywistego prześladowania — co sprawiło, że zacząłem się bać. Zastanawiałem się, czy te trolle zrobią mi krzywdę, czy zrobią coś gorszego? Kiedy poszedłem złożyć policyjne raporty na temat mojego prześladowcy, poczułem gazy. Policja robi notatki, jakby Ofiara uważała, że ​​podejrzany ma obsesję na jej punkcie, co podważa prawdę: dostaję od tej osoby tysiące tweetów. Poleci tam, gdzie byłem. Ma zapisy wjazdu i wyjazdu na najbliższym lotnisku i powiedział mi, w jakim motelu zatrzymał się, kiedy próbował mnie znaleźć w San Francisco.

Ktoś, kto pracuje w prywatnej ochronie, powiedział mi kiedyś, że jedną z najlepszych rzeczy, jakie możesz zrobić w takiej sytuacji, jest przekształcenie swojej mentalności w bardzo proaktywną: pomyśl, gdybyś był prześladowcą, co byś zrobił? To pomaga ci kształtować obronę. Przestawienie swojej mentalności na bycie proaktywnym oznacza, że ​​masz agencję i jest to naprawdę pomocne. Bo jeśli czujesz, że jesteś bezradny i atakowany, to bardzo wyniszczające.

Jakkolwiek nieprzyjemne były moje doświadczenia, traktuję to wszystko jako badanie użytkowników dla Block Party.

Chcę, aby nękanie w Internecie zniknęło i jeśli mogę być częścią rozwiązania tego problemu – czy to z Block Party, czy nie – jestem szczęśliwy. Biorę wszystkie doświadczenia, które miałem w inżynierii produktu, pracując z firmami z Doliny Krzemowej, pracując na platformach firmowych, oraz moje własne doświadczenia z molestowaniem i mam nadzieję, że zmienię je w coś pozytywnego.

Wudan Yan jest niezależnym dziennikarzem mieszkającym w Seattle w stanie Waszyngton.

ukryć