Data science - новая мода
От: Mishka Норвегия  
Дата: 04.04.16 09:49
Оценка: +1
Сейчас наблюдую интересную картину — наша банка программеров в места типа Лондона набирает неохотно, если уж непременно надо в Англии, будьте пожалуйста где-нибудь в Глазго и пр. местных дырах. И вообще почему не Индия где в 5 раз дешевле? Поэтом когда кто-то тут на форуме "а вот хочу я в Англию", мне хочется авто-ответить "поздняк ребят, уже не 80-00 годы". Ясно понятно, что всегда будут интересные ИТ задачи, но они становятся не эффективными с точки зрения карьеры.
Так вот алтернатива, только что начинающаяся волна по-крайне мере в финансах, data science. Не, оно было и раньше, но сейчас это бум сравнимый с тем что программеры были лет 20 назад. Всем нужны, к доменной области непревязаны и вообще край непочатый на ближайших лет 20 хватит. И самое интересное далеко переучиваться не надо, тот же программер (Python, R) только с мат. подготовкой, причём специализированной и потому не требующий PhD. В общем, рекомендую, особенно если кто только карьеру начинает или думает куда слинять с тупых спринтов.
Отредактировано 04.04.2016 9:50 Mishka . Предыдущая версия .
Re: Data science - новая мода
От: Artеm Австралия жж
Дата: 04.04.16 09:58
Оценка:
Здравствуйте, Mishka, Вы писали:

M>далеко переучиваться не надо, тот же программер (Python, R) только с мат. подготовкой


Зачем размениваться на датасаентисты- сразу в кванты прыгнуть.
Re[2]: Data science - новая мода
От: BulatZiganshin  
Дата: 04.04.16 10:00
Оценка: +2
Здравствуйте, Artеm, Вы писали:

M>>далеко переучиваться не надо, тот же программер (Python, R) только с мат. подготовкой


A>Зачем размениваться на датасаентисты- сразу в кванты прыгнуть.


кванты — область узкая, а сайентисты — новые программеры
Люди, я люблю вас! Будьте бдительны!!!
Re[3]: Data science - новая мода
От: Mishka Норвегия  
Дата: 04.04.16 10:12
Оценка:
Здравствуйте, BulatZiganshin, Вы писали:

BZ>Здравствуйте, Artеm, Вы писали:


M>>>далеко переучиваться не надо, тот же программер (Python, R) только с мат. подготовкой


A>>Зачем размениваться на датасаентисты- сразу в кванты прыгнуть.


BZ>кванты — область узкая, а сайентисты — новые программеры


Именно.
Re: Data science - новая мода
От: Kernan Ниоткуда https://rsdn.ru/forum/flame.politics/
Дата: 04.04.16 10:13
Оценка:
Здравствуйте, Mishka, Вы писали:

M>Всем нужны, к доменной области непревязаны и вообще край непочатый на ближайших лет 20 хватит. И самое интересное далеко переучиваться не надо, тот же программер (Python, R) только с мат. подготовкой, причём специализированной и потому не требующий PhD. В общем, рекомендую, особенно если кто только карьеру начинает или думает куда слинять с тупых спринтов.

А что там копать в это дата саенс? Какая математика-то? Этой математики что-то ну очень много стало.
Sic luceat lux!
Re[4]: Data science - новая мода
От: Artеm Австралия жж
Дата: 04.04.16 10:19
Оценка: +1
Здравствуйте, Mishka, Вы писали:

BZ>>кванты — область узкая, а сайентисты — новые программеры


M>Именно.


У меня коллега из прогеров ушла в дата саентисты. У неё специальность в универе была по этой теме. Сразу работу по специальности не нашла и пошла в программисты. Потом подвернулась возможность. А так, я слабо себе представляю, как программист с специальностью универа по прогерству или инженерии пойдёт в дата саентисты. Разве что область перегреется.
Re: Data science - новая мода
От: Baudolino  
Дата: 04.04.16 10:46
Оценка: +1 -1
Два простых тезиса:

1. В разработке ПО сейчас интересных задач не меньше, а больше чем раньше, и дефицит кадров никуда не исчезал. Если есть амбиции и готовность совершенствоваться, то можно найти интересную и денежную работу практически везде.

2. Многие "новые" профессии это хорошо забытые старые: в случае с data science это именно так, причем в этой профессии нет ничего выдающегося, ради чего в нее стоило бы переходить человеку, который не увлекается предметом. Про data science, хочу напомнить, ещё в 1977 году снял фильм Эльдар Рязанов — помните товарища Новосельцева? Ну пересели статистики за компьютеры, ну освоили хадуп, где там секс, где огонь в глазах? В реальности это будет внезапное осознание бизнес-пользователей в конце проекта (хорошо если, а обычно — через год-два после запуска), что нужна какая-нибудь хитрая аналитика по продуктовым категориям, и статистик идёт пинать девелоперов, чтобы они подсказали, где в безумной схеме БД можно выковырять нужную информацию (а реально придется допиливать какой-нибудь агрегатор данных в какой-нибудь энтерпрайзный куб).

Весь этот романтический флёр, которым сейчас окружают статистику, переименовав её в data science, это не более чем маркетинговые уловки бизнеса, заметившего очередную дыру в процессах (упс, мы не знаем, на основе чего принимать решения) и пытающегося её закрыть свежим мясом. Через 10-15 лет с этой областью IT произойдет то же самое, что с контролем качества, про который в середине двадцатого века окончательно решили, что качество это всё-таки journey, а не destination (кстати, если в вашей компании всё ещё тестеры тыкаются руками в готовый софт, это примерно палеолит), и data science распилят между собой менеджеры (с т.з. поддержки принятия решений), аналитики и архитекторы (с т.з. требований к системам) и кодеры (с т.з. эффективной агрегации данных).
Re[2]: Data science - новая мода
От: Mishka Норвегия  
Дата: 04.04.16 11:11
Оценка: +1
Здравствуйте, Baudolino, Вы писали:

B> реальности это будет внезапное осознание бизнес-пользователей в конце проекта (хорошо если, а обычно — через год-два после запуска), что нужна какая-нибудь хитрая аналитика по продуктовым категориям, и статистик идёт пинать девелоперов, чтобы они подсказали, где в безумной схеме БД можно выковырять нужную информацию (а реально придется допиливать какой-нибудь агрегатор данных в какой-нибудь энтерпрайзный куб).


Если без бизнес кейса этим заниматься, то извини не ясно зачем нужны эти data scientists. В общем то и программеры не ясно зачем нужны, если не понятно чего добиться хотим. Я потому и говорю, что сейчас самое то, люди в бизнесе пронюхали каким местом этих теоретиков к станку поставить, а это спрос и если хочется денег и переезда в места с лучшим уровнем жизни — сейчас самое время подумать.
В общем, кому надо разберётся. Программинг не отменяли, но это уже поставлено на поток и отлично аутсорсится в забытые места планеты.
Re[3]: Data science - новая мода
От: Baudolino  
Дата: 04.04.16 11:22
Оценка:
Здравствуйте, Mishka, Вы писали:

M>В общем, кому надо разберётся. Программинг не отменяли, но это уже поставлено на поток и отлично аутсорсится в забытые места планеты.

Как показывает практика, не очень хорошо аутсорсится. В жизни каждой крупной компании, конечно, есть эпизод, в котором строятся отношения с каким-нибудь Люксофтом, EPAMом или Tata Consulting, но эти отношения с завидной регулярностью заканчиваются построением "домашних" команд и экспертизы. Для рядового разработчика все сводится к тому, где в пирамиде цены-качества он находится: логично, что за и-джи-би и джи-эс-пи в Москве или Лондоне много не заплатят, а могут и сократить в пользу Минска или Хайдарабада. Надо качать навыки и опыт, правильно себя позиционировать и продавать. Но это к любой отрасли и направлению относится: при необходимости ведь забангалорят и data science с легкостью.
Re[5]: Data science - новая мода
От: Milena США  
Дата: 04.04.16 14:06
Оценка:
Здравствуйте, Artеm, Вы писали:

A>У меня коллега из прогеров ушла в дата саентисты. У неё специальность в универе была по этой теме. Сразу работу по специальности не нашла и пошла в программисты. Потом подвернулась возможность. А так, я слабо себе представляю, как программист с специальностью универа по прогерству или инженерии пойдёт в дата саентисты. Разве что область перегреется.


В США она уже перегрелась — дефицит кадров оценивается в 50,000 рабочих мест и зарплаты 140-150K. Уже везде писали, что "Data Scientist — the sexiest job of the XIX century"
У меня вот специализация вузовская как раз математика и программирование, я и сейчас много работаю с анализом данных, мне очень нравится, поэтому тоже подумываю перейти.
Re[6]: Data science - новая мода
От: BulatZiganshin  
Дата: 04.04.16 14:14
Оценка: :)
Здравствуйте, Milena, Вы писали:

M>В США она уже перегрелась — дефицит кадров оценивается в 50,000 рабочих мест и зарплаты 140-150K. Уже везде писали, что "Data Scientist — the sexiest job of the XIX century"


ты кстати читал тогдашние популярные исследования:
"новости статистики для выбирающих наиболее безопасное место при перестрелке в баре"
"использование метода бесконечно малых для оценки шансов разбогатеть на золотых приисках"
"анализ биржевой статистики при выборе банка для ограбления"
?
Люди, я люблю вас! Будьте бдительны!!!
Re[2]: Data science - новая мода
От: zubactik  
Дата: 04.04.16 15:19
Оценка:
Сори за оффтоп. А как сейчас правильно на ваш взгляд тестировать? сразу на пользователях в продакшене?
Re[3]: Data science - новая мода
От: Baudolino  
Дата: 04.04.16 15:28
Оценка:
Здравствуйте, zubactik, Вы писали:

Z>Сори за оффтоп. А как сейчас правильно на ваш взгляд тестировать?

Автоматизация всего и вся и CI/CT.
Re[4]: Data science - новая мода
От: zubactik  
Дата: 04.04.16 15:44
Оценка:
Ну то есть вы против ручного тестирования? А так у вас по-прежнему сидят тестировщики, которые втыкают в программу (или спеку, если она есть) и пишут автотесты? А не секрет что такое разрабатываете, что удается избавиться от ручного тестирования?
Re[6]: Data science - новая мода
От: D. Petrov США  
Дата: 04.04.16 16:49
Оценка:
Здравствуйте, Milena, Вы писали:

A>>У меня коллега из прогеров ушла в дата саентисты. У неё специальность в универе была по этой теме. Сразу работу по специальности не нашла и пошла в программисты. Потом подвернулась возможность. А так, я слабо себе представляю, как программист с специальностью универа по прогерству или инженерии пойдёт в дата саентисты. Разве что область перегреется.


M>В США она уже перегрелась — дефицит кадров оценивается в 50,000 рабочих мест и зарплаты 140-150K. Уже везде писали, что "Data Scientist — the sexiest job of the XIX century"


Строго говоря он сказал про Статистику, а не дата сайнс. Но тогда и термина дата сайнс не было, может это и имел в виду.
Re: Data science - новая мода
От: D. Petrov США  
Дата: 04.04.16 17:25
Оценка:
Здравствуйте, Mishka, Вы писали:

M>Так вот алтернатива, только что начинающаяся волна по-крайне мере в финансах, data science.


Не знаю как в Англии, но в США сейчас заметен немного другой тренд — копании отказываются от data science в пользу инженеров с навыками в машин лернинге или продвинутой статистике. В likedin был отдельный орг сайнтистов. По слухам, их полностью интегрировали с инженерами (некоторых сайнтистов оставили во всяких бизнес отделах) и теперь фокус при найме именно на инженерах с требуемыми навыками.

Это в какой то мере соответствует точке зрения
Автор: Baudolino
Дата: 04.04.16
Baudolino из соседней ветке.

От чего это происходит? Наверно компании "наелись" сейнтистами которые толком не умеют программировать, при том что программирование занимает примерно 80% работы сайнтиста. Другая возможная причина — нет четких стандартов, что должен уметь сайнтист. Обычно это машин лернинг, кто-то вообще не готов использовать supervised методы и "традиционный" ML-идет лесом, кому то нужет NLP, кому-то — статистика и анализ экспериментов, кому-то подавай всякую дичь типа ANOVA анализа. Как бы то ни было программировать должны умать все на достаточно приличном уровне.

Я думаю, что сейчас происходит такое пышное зарождение новой инженерной специализации — инженер по аналитике или что-то типа того. Специализация дополнит традиционный список специализаций типа from-end инженер, back-end инженер, DBA, data-инженер, сис-админ, devops и т.п. Этому надо радоваться — индустрия взрослеет, к томуже появляется широкое поле деятельности для людей любящих прикладную математику.
Re[5]: Data science - новая мода
От: Baudolino  
Дата: 05.04.16 10:51
Оценка:
Здравствуйте, zubactik, Вы писали:

Z>Ну то есть вы против ручного тестирования?

Да. Это чудовищно неэффективно и совершенно не гарантирует качество на выходе.

Z>А так у вас по-прежнему сидят тестировщики, которые втыкают в программу (или спеку, если она есть) и пишут автотесты?

Да. На Selenium конкретно у меня.

Z>А не секрет что такое разрабатываете, что удается избавиться от ручного тестирования?

Веб, включая 3D (WebGL). Специализированные десктоп и мобильные приложения.
Re[7]: Data science - новая мода
От: Milena США  
Дата: 05.04.16 15:20
Оценка:
Здравствуйте, D. Petrov, Вы писали:

DP>Здравствуйте, Milena, Вы писали:


A>>>У меня коллега из прогеров ушла в дата саентисты. У неё специальность в универе была по этой теме. Сразу работу по специальности не нашла и пошла в программисты. Потом подвернулась возможность. А так, я слабо себе представляю, как программист с специальностью универа по прогерству или инженерии пойдёт в дата саентисты. Разве что область перегреется.


M>>В США она уже перегрелась — дефицит кадров оценивается в 50,000 рабочих мест и зарплаты 140-150K. Уже везде писали, что "Data Scientist — the sexiest job of the XIX century"


DP>Строго говоря он сказал про Статистику, а не дата сайнс. Но тогда и термина дата сайнс не было, может это и имел в виду.


Ну да, сейчас Data Science — это расширение статистической обработки на наборы больших объемов.
Re[7]: Data science - новая мода
От: Milena США  
Дата: 05.04.16 15:27
Оценка:
Здравствуйте, BulatZiganshin, Вы писали:

BZ>ты кстати читал тогдашние популярные исследования:

BZ>"новости статистики для выбирающих наиболее безопасное место при перестрелке в баре"
BZ>"использование метода бесконечно малых для оценки шансов разбогатеть на золотых приисках"
BZ>"анализ биржевой статистики при выборе банка для ограбления"
BZ>?
Re[2]: Data science - новая мода
От: Milena США  
Дата: 05.04.16 16:52
Оценка:
Здравствуйте, D. Petrov, Вы писали:

DP>Здравствуйте, Mishka, Вы писали:


M>>Так вот алтернатива, только что начинающаяся волна по-крайне мере в финансах, data science.


DP>Не знаю как в Англии, но в США сейчас заметен немного другой тренд — копании отказываются от data science в пользу инженеров с навыками в машин лернинге или продвинутой статистике.

DP>От чего это происходит? Наверно компании "наелись" сейнтистами которые толком не умеют программировать, при том что программирование занимает примерно 80% работы сайнтиста.

Я могу ошибаться, но то, что вы описываете, это просто аналитики или кварты, а не дата саентисты. Изначально data science — это программная специальность. Вот, например, очень точный список скиллов, которые нужны для этой специальности — http://insidebigdata.com/2016/02/23/14534/

DP>Я думаю, что сейчас происходит такое пышное зарождение новой инженерной специализации — инженер по аналитике или что-то типа того.

DP>Специализация дополнит традиционный список специализаций типа from-end инженер, back-end инженер, DBA, data-инженер, сис-админ, devops и т.п. Этому надо радоваться — индустрия взрослеет, к томуже появляется широкое поле деятельности для людей любящих прикладную математику.

Это как раз и называется одним словом Data Scientist (программист со знаниями аналитики, прогнозирования и статистики и как правило с образованием в области математики и программирования)
Re[3]: Data science - новая мода
От: D. Petrov США  
Дата: 05.04.16 17:11
Оценка:
Здравствуйте, Milena, Вы писали:

M>Я могу ошибаться, но то, что вы описываете, это просто аналитики или кварты, а не дата саентисты. Изначально data science — это программная специальность. Вот, например, очень точный список скиллов, которые нужны для этой специальности — http://insidebigdata.com/2016/02/23/14534/


На счет полноты этого списка у меня есть большие сомнения. Там нет не статистики ни ML. Умение программировать на R или Python этого не подразумевает. К тому же пропущенна пожалуй самая важная составляющая — визуализация данных.

M>Это как раз и называется одним словом Data Scientist (программист со знаниями аналитики, прогнозирования и статистики и как правило с образованием в области математики и программирования)


В целом то так. Но вот понимание того что это в первую очередь программист появилось не так давно. Еще недавно люди предпочитали нанимать не умеющих программировать статистов и экономистов на таки позиции.
Re[2]: Data science - новая мода
От: __SPIRIT__ Россия  
Дата: 05.04.16 19:14
Оценка:
Здравствуйте, Kernan, Вы писали:

K>А что там копать в это дата саенс? Какая математика-то? Этой математики что-то ну очень много стало.


В первом приближении матстат
Re: Data science - новая мода
От: fleandr  
Дата: 06.04.16 17:48
Оценка:
Здравствуйте, Mishka, Вы писали:

M>Так вот алтернатива, только что начинающаяся волна по-крайне мере в финансах, data science. Не, оно было и раньше, но сейчас это бум сравнимый с тем что программеры были лет 20 назад. Всем нужны, к доменной области непревязаны и вообще край непочатый на ближайших лет 20 хватит. И самое интересное далеко переучиваться не надо, тот же программер (Python, R) только с мат. подготовкой, причём специализированной и потому не требующий PhD. В общем, рекомендую, особенно если кто только карьеру начинает или думает куда слинять с тупых спринтов.


Я уже 4 года в теме ) Это не "начинающаяся волна", это давняя тема даже в России, не говоря уже про запад где это лет 9 уже как. Потребность есть, не спорю и народу больше в теме стало, однако при близком рассмотрении мы видим применение в основном в крупных корпорациях (банки, телекомы), паре соцсетей и веб новой волны, при этом последние денег в массе платить не особо хотят и их data science часто не так чтоб сложный запилить спарк кластер и что то там попроцессить методами типа k-means =))
Re[2]: Data science - новая мода
От: D. Petrov США  
Дата: 06.04.16 18:49
Оценка:
Здравствуйте, fleandr, Вы писали:

F>Я уже 4 года в теме ) Это не "начинающаяся волна", это давняя тема даже в России, не говоря уже про запад где это лет 9 уже как. Потребность есть, не спорю и народу больше в теме стало, однако при близком рассмотрении мы видим применение в основном в крупных корпорациях (банки, телекомы), паре соцсетей и веб новой волны, при этом последние денег в массе платить не особо хотят и их data science часто не так чтоб сложный запилить спарк кластер и что то там попроцессить методами типа k-means =))


Хм... странно. Как раз соц сетям и популярным вэб проектам это должно быть очень нужно. За счет деже незначительных изменений моделей релевантности и UX-а можно стабильно повышать пользовательские метрики (user retention, session duration ...) и, главное, монетизацию. Один проект\улучшение может повышать метрики на 1-5%. Представьте, что такое 1% от доходов Яндекса или ВК. А таких проектов можно релизить по несколько штук каждый месяц если у вас достаточно способных людей.

Когда речь идет о таком вот утонченном тюнинге то сразу поднимается много интересных вопросов из области машинного обучения, понимания пользователя (UX) и того как это все измерять (статистики). Если компании этим возможностями не пользуются, то мне их очень жаль.
Re: Data science - новая мода
От: andrey.t  
Дата: 06.04.16 21:52
Оценка:
Здравствуйте, Mishka, Вы писали:

M> И самое интересное далеко переучиваться не надо, тот же программер (Python, R) только с мат. подготовкой, причём специализированной и потому не требующий PhD. В общем, рекомендую, особенно если кто только карьеру начинает или думает куда слинять с тупых спринтов.


Что-то мне эта возня очень сильно напоминает начало 00-ых, когда активно пиарилась финансовая математика и в индустрии и в академии. Правда, в кванты по-прежнему набирают PhD по астрофизике из Кэмбриджа или PhD по математике из UCB, зато в индустрии появилось очень много людей умеющих считать модель Блека-Скоулза, заплативших от 20k GBP до 100k USD (привет, CMU) за свое обучение, и жаждущих делать все сейчас, чтобы потом получить доступ к пулу.

Вот сейчас если заменить математику на статистику, а финансовую математику на data science, то похоже получается.
Re[3]: Data science - новая мода
От: SkyDance Земля  
Дата: 06.04.16 22:38
Оценка: +2
M>Я могу ошибаться, но то, что вы описываете, это просто аналитики или кварты, а не дата саентисты.

Нич-чо вы в маркетинге не понимаете! Достаточно сущность переименовать (хостинг -> облако), как можно ее продать повторно и за бОльшие деньги!
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.