Новости биржевых спекулянтов

[volchara]

Upstart Holdings, Inc. engages in the provision of a cloud-based artificial intelligence lending platform. Its platform aggregates consumer demand for loans and connects it to the company's network of artificial intelligence-enabled bank partners.

Lower demand for loans and a higher requirement for returns from institutions that lend to Upstart UPST –10.21%

Ну што, робяты, верной дорогой несемся. Уже и в долг никто не берет и никто не дает

Comments

[sobriquet9]

Так уже сейчас решения о выдаче кредита принимают железки бездушные на основании моделей вроде FICO. Как раз если заметный процент решений принимают люди, то это привлечёт внимание регуляторов, потому что фиг докажешь беспристрастность.

Но у сегодняшних тупых моделей легко показать, что на входе нет переменных, по которым нельзя дискриминировать. А если такие переменные есть (например, возраст) то можно показать, что дискриминация идёт в правильную сторону.

С чёрным ящиком вида "мы запустили TensorFlow на всех данных, и вот что получилось" такой отмазки нет. Тема model interpretability пока учёными не раскрыта.

[rampitec]

Да отличная отмазка же: у неё на входе вообще переменных нет! Она их все давно похерила.

[volchara]

--- Так уже сейчас решения о выдаче кредита принимают железки бездушные на основании моделей вроде FICO. Как раз если заметный процент решений принимают люди, то это привлечёт внимание регуляторов, потому что фиг докажешь беспристрастность.

как вот эта позитивная дискриминация зае... мешает жить бизнесу. А потом все удивляются - откуда у нас рецессия?

[sobriquet9]

В приведённом примере дискриминация бизнесу никак не мешает. Бизнес и так знает, что риск давать в долг молодым выше, поэтому пенсионеры получают условия кредитвания лучше.

Аналогичным образом не нужно знать про пол или расу, когда кредитная история и доход и так содержат достаточно информации.

[volchara]

А может мешает? Ну вот черный ящик не внедрить. Вот уж кому наплевать то на расу, пол и самоидентификацию, так это тензорфлоу

[sobriquet9]

Нейронки моментально обучаются стереотипам. Они вообще-то именно для этого придуманы, находить закономерности в данных.

[volchara]

тцтцтц. Обучаются не значит, что они знают или их это как то волнует.

[sobriquet9]

Регуляторов не волнует, что знают или не знают нейронки. Их волнует результат - не дискриминируют ли модели защищённые классы? В случае логистической регрессии это легко продемонстрировать - вот независимые переменные, вот коэффициенты, выход монотонно возрастает. А с чёрным ящиком так не сделать.

[volchara]

Ну и возвращаемся к первоначальному вопросу. Какого хрена правительство волнуется о том как и кому дают в долг люди _свои_ деньги. А не правительственные.

Но нет, нужно обязательно лезть в кошелек и под одеяло

[sobriquet9]

Нет Сбербанка, которое правительство контролирует, поэтому люди могут взять в долг только у коммерческих банков. Банки эти в прошлом норовили не давать кредитов меньшинствам, что несправедливо. Без кредитов ни образование не получить, ни машину не купить, ни дом. Недоступна американская мечта. Не идти же к старухе-процентщице или к местной мафии за займом.

Поэтому правительство в деятельность банков активно вмешивается. Так же, как оно бы вмешалось в деятельность других бизнесов, если бы те повесили на входе табличку "только для белых".

[volchara]

--- Нет Сбербанка, которое правительство контролирует, поэтому люди могут взять в долг только у коммерческих банков.

так, но не так. Правительство контролирует банки через множество механизмов. В том числе дает деньги этим самым банкам опять же через множество механизмов. Так что мы вполне можем постулировать, что правительственные деньги есть

И если банки не давали денег меньшинствам - видимо в этом была какая то сермяжная правда. Банки зарабатывают деньги на том, что дают деньги и потом получают взад. Хотя дальше будет долгая беседа, а мне лень уже прям шас

[moneo1337]

Ну вот черный ящик не внедрить

я смотрю, кто то прогуливал тренинг по inclusion
ящик of color же

[volchara]

Упс. Вот так и проваливаются штирлицы