האם אלקסה צריכה לקרוא את מצבי הרוח שלנו?



הזמן לדון בכוחה של טכנולוגיית הקול הוא עכשיו. (לפני שאלקסה מתחילה להציע אוכל מנחם.)



וִידֵאוֹ סינמגרף

מאמר זה הוא חלק מ- על ניוזלטר על טק . אתה יכול הירשם כאן לקבל אותו בימי חול.

אם אלקסה של אמזון חושבת שאתה נשמע עצוב, האם היא צריכה להציע לך לקנות ליטר גלידה?



יוסף תורוב אומר בשום אופן לא. ד'ר טוראו, פרופסור בבית הספר אננברג לתקשורת באוניברסיטת פנסילבניה, חקר טכנולוגיות כמו אלכסה על ספרו החדש, לוכדי הקול . הוא יצא משוכנע שצריך לאסור על חברות לנתח את מה שאנחנו אומרים ואיך אנחנו נשמעים כדי להמליץ ​​על מוצרים או להתאים אישית מסרים פרסומיים.

ההצעה של ד'ר טורו בולטת בין השאר משום שהפרופיל של אנשים על סמך קולם אינו נפוץ. או, זה עדיין לא. אבל הוא מעודד את קובעי המדיניות והציבור לעשות משהו שהלוואי שעשינו לעתים קרובות יותר: היו זהירים ומתחשבים לגבי האופן שבו אנו משתמשים בטכנולוגיה רבת עוצמה לפני שהיא עשויה לשמש להחלטות תוצאתיות.



לאחר שנים של חקר הגישה המתפתחת של אמריקאים לגבי זרמי הסילון הדיגיטליים שלנו של נתונים אישיים, ד'ר טורו אמר שלחלק מהשימושים בטכנולוגיה יש כל כך הרבה סיכון לעלייה כה קטנה שיש לעצור אותם לפני שהם גדלים.

במקרה זה, ד'ר טורו חושש שטכנולוגיות הקול, כולל אלקסה וסירי מאפל, יהפכו ממשרתים דיגיטליים לדיווינרים שמשתמשים בצליל הקולות שלנו כדי להבין פרטים אינטימיים כמו מצבי הרוח, הרצונות והמצבים הרפואיים שלנו. בתיאוריה הם יכולים לשמש יום אחד את המשטרה כדי לקבוע מי צריך להיעצר או את הבנקים כדי לומר מי ראוי למשכנתא.

השימוש בגוף האדם לאפליה בין אנשים הוא משהו שאסור לנו לעשות, אמר.

חלק מההגדרות העסקיות כמו מוקדים טלפוניים כבר עושים זאת. אם מחשבים מעריכים שאתה נשמע כועס בטלפון, אתה עלול להיות מנותב למפעילים שמתמחים בהרגעת אנשים. Spotify גם חשפה פטנט על טכנולוגיה להמליץ ​​על שירים על סמך רמזים קוליים על רגשות הדובר, גילו או מינו . אֲמָזוֹנָה אמר שזה צמיד מעקב בריאות Halo והשירות ינתח אנרגיה וחיוביות בקולו של הלקוח לדחוף אנשים לתקשורת ויחסים טובים יותר.

ד'ר טורו אמר שהוא לא רוצה להפסיק שימושים שיכולים להיות מועילים בפרופיל קולי - למשל, כדי לסנן אנשים לאיתור רציני מצבים בריאותיים , כולל Covid-19 . אבל יש לנו מעט מאוד תועלת, אמר, אם מחשבים ישתמשו במסקנות מהדיבור שלנו כדי למכור לנו חומר ניקוי כלים.

אנחנו חייבים להוציא פרופיל קולי מחוץ לחוק לצורך שיווק, אמר לי ד'ר טורו. אין שירות לציבור. אנחנו יוצרים קבוצה נוספת של נתונים שלאנשים אין שמץ של מושג איך משתמשים בו .

ד'ר טורו נכנס לוויכוח על איך לטפל בטכנולוגיה שיכולה להיות לה יתרונות עצומים, אבל גם חסרונות שאולי לא נראה באים. אם הממשלה תנסה להציב כללים ותקנות סביב טכנולוגיה חזקה לפני שהיא תהיה בשימוש נרחב, כמו מה שקורה באירופה , או להשאיר את זה בעיקר לבד אלא אם כן יקרה משהו רע?

הדבר המסובך הוא שפעם טכנולוגיות כמו תוכנת זיהוי פנים או נסיעות במכונית בלחיצת כפתור בסמארטפון להיות נפוץ, קשה יותר להחזיר תכונות שמתבררות כמזיקות.

אני לא יודע אם ד'ר טוראו צודק כשהיא מעוררת אזעקה לגבי השימוש בנתוני הקול שלנו לשיווק. לפני כמה שנים, היה הרבה הייפ על כך שהקול יהפוך לדרך מרכזית שבה נקנה וללמוד על מוצרים חדשים. אבל אף אחד לא הוכיח שהמילים שאנו אומרים לגיזמוס שלנו הן מנבאים יעילים של איזו משאית חדשה נקנה.

שאלתי את ד'ר טורו אם אנשים ורגולטורים ממשלתיים צריכים להתרגש לגבי סיכונים היפותטיים שאולי לא יבואו לעולם. קריאת מחשבותינו מקולותינו עשויה לא לעבוד ברוב המקרים, ואנחנו לא באמת צריכים עוד דברים כדי להרגיש מבוהלים מהם.

ד'ר טורו הודה באפשרות הזו. אבל קיבלתי את הנקודה שלו שכדאי להתחיל שיחה ציבורית על מה יכול להשתבש בטכנולוגיית הקול, ולהחליט ביחד איפה הקווים האדומים הקולקטיביים שלנו - לפני שהם נחצים.



  • אלימות האספסוף מואצת על ידי אפליקציה: בישראל הוקמו לפחות 100 קבוצות וואטסאפ חדשות במטרה מפורשת לארגן אלימות נגד פלסטינים, עמיתי שירה פרנקל דיווח . לעתים רחוקות אנשים השתמשו בוואטסאפ לאלימות ממוקדת כל כך ספציפית, אמרה שירה.

  • וכאשר אפליקציה מעודדת ערניים: Citizen, אפליקציה שמתריעה לאנשים על פשעים וסכנות בשכונה, פרסמה תמונה של חסר בית והציעה פרס של 30,000 דולר עבור מידע אודותיו, בטענה שהוא חשוד בהצתת שריפה בלוס אנג'לס. מעשיו של האזרח סייעו לפתח מצוד אחר האיש, שהמשטרה אמרה מאוחר יותר שהוא האדם הלא נכון, כתבה עמיתי ג'ני גרוס.

  • מדוע לסרטוני TikTok פופולריים רבים יש את אותה אווירה תפלה: זהו מאמר מעניין של Vox על האופן שבו האפליקציה מונעת המחשב מתגמלת את הסרטונים בחציון המבולבל של כל הטעמים הממוצעים ביותר של כדור הארץ .

הנה סרטון לא-בלה TikTok עם סוס שמח וכמה גורים שמחים .


אנחנו רוצים לשמוע ממך. ספר לנו מה אתה חושב על הניוזלטר הזה ומה עוד תרצה שנחקור. ניתן להגיע אלינו ב ontech@nytimes.com.

אם עדיין לא קיבלת את הניוזלטר הזה בתיבת הדואר הנכנס שלך, בבקשה הירשמו כאן . אתה יכול גם לקרוא בעבר עמודות On Tech .