Be the only one, not the best one

Deep Reinforcement Learning Course (CS285) by Sergey Levine, Assistant Professor at University of California, Berkeley is now has fall 2020 lectures online:

#deeplearning #reinforcementlearning #RL #machinelearning

안녕하세요!

최근 모두의 말뭉치가 새로 공개된 겸하여 KoELECTRA-v3를 새로 만들었습니다:)
모두의 말뭉치를 포함한 약 34GB 데이터로 Pretraining
Mecab과 Wordpiece를 이용하여 Vocab 새로 제작

다행히도 여러 Task에서 눈에 띄는 성능 향상이 보이네요 (역시 데이터가 많은 게 최고네요ㅎ)
많은 분들이 사용해주셔서 항상 감사하고, 새로 공개한 모델도 한국어 NLP 연구에 많은 도움이 되었으면 좋겠습니다! 🤗
- Github: https://github.com/monologg/KoELECTRA

https://www.kdnuggets.com/2020/10/10-best-machine-learning-courses-2020.html



 


JMP Discovery Summit Online: Exploring Data, Inspiring Innovation. Oct 12-16. Register Now

Topics: Coronavirus | AI | Data Science | Deep Learning | Machine Learning | Python | R | Statistics


10 Best Machine Learning Courses in 2020

<= Previous post

Next post =>


 
 

Share24

Tags: Courses, DataCamp, Deep Learning, fast.ai, Machine Learning, Online Education, Python, Stanford


If you are ready to take your career in machine learning to the next level, then these top 10 Machine Learning Courses covering both practical and theoretical work will help you excel.


SAS Viya



comments

By Ahmad Bin Shafiq, Machine Learning Student.

Photo by Photos Hobby on Unsplash.
 

Practical/Hands-on Courses with Less Theory

 
1) Practical Deep Learning for Coders FAST.AI

Price: Free
Taught by: One of the most famous and practical courses on the internet, taught by Jeremy Howard, Research Scientist at the University of San Francisco, the chair of WAMRI, and is Chief Scientist at the platform.ai. He was the President and Chief Scientist of the data science platform Kaggle, where he was the top-ranked participant in international machine learning competitions 2 years running.
Course Outcomes: This course is a hands-on introduction to deep learning, where you will dive straight into deep learning via making a state of the art classifier. You will learn a lot of practical aspects of deep learning without knowing the underlying theory.
 
2) Code-First Introduction to Natural Language Processing by Fast.ai

Price: Free
Taught by: Rachel Thomas is an American computer scientist and founding Director of the Center for Applied Data Ethics at the University of San Francisco. Together with Jeremy Howard, she is co-founder of fast.ai.
Course Outcomes: This course  is a hands-on introduction to NLP, where you will code a practical NLP application first as the name suggests, then slowly start digging inside the underlying theory in it.
Applications covered include topic modeling, classification (identifying whether the sentiment of a review is positive or negative), language modeling, and translation. The course teaches a blend of traditional NLP topics (including regex, SVD, naïve Bayes, tokenization) and recent neural network approaches (including RNNs, seq2seq, attention, and the transformer architecture), as well as addressing urgent ethical issues, such as bias and disinformation.
 
3) Python for Data Science and Machine Learning Bootcamp

Price: $129 (on sale $10-$20)
Taught by: Jose Marcial Portilla has a BS and MS in Mechanical Engineering from Santa Clara University and years of experience as a professional instructor and trainer for Data Science and programming. He has publications and patents in various fields such as microfluidics, materials science, and data science technologies.
Rating: 4.6*
Course Outcomes: This course is a very practical introduction to Machine Learning and data science. It does not assume any previous knowledge, starts from teaching basic Python to Numpy Pandas, then goes to teach Machine Learning via sci-kit learn in Python, then jumps to NLP and Tensorflow, and some big-data via spark.
This is definitely one of the best courses out there, as Jose is a really good instructor.
 
4) DeepLearning.AI TensorFlow Developer Professional Certificate

Price: $49/month
Taught by: Laurence Moroney is a Developer Advocate at Google working on Artificial Intelligence with TensorFlow. He is also the author of many books.
Rating: 4.7*
Course Outcomes: In this hands-on, four-course Professional Certificate program, you’ll learn the necessary tools to build scalable AI-powered applications with TensorFlow. Lawrence will start teaching you the basics of TensorFlow, slowly progressing towards the state of the art applications using Tensorflow.
 
5) Datacamp Data Science Path

Price: $25/month or $300/year
Taught by: Multiple industry professionals
Course Outcomes: With no prior coding experience, you will be taught coding from scratch, then moving to advanced libraries and frameworks. Each lesson is accompanied by some exercises or tasks. You will also have access to projects at data camp, which will improve your coding experience as well as your resume.
 

Theoretical Courses with Less Practical work

 
1) Machine Learning by Stanford University

Price: $80
Taught by: Andrew Ng is CEO/Founder Landing AI; Co-founder, Coursera; Adjunct Professor, Stanford University; formerly Chief Scientist, Baidu, and founding lead of Google Brain.
Rating:4.9
Course Outcomes: You will learn all the underlying theory behind famous machine learning algorithms, from Supervised Learning to Unsupervised Learning. You will also get a chance to code them from scratch in MATLAB/Octave.
 
2) Deep Learning Specialization

Price: $49/month
Instructor: Andrew Ng
Ratings: 4.8*
Course Outcomes: This 5 parts specialization will teach you the underlying theory behind of Deep Learning from Single Layer Network to Multi-Layer Dense Networks, from the basics of CNN to performing object detection with YOLO along with underlying theory, from basics of RNN to Sentiment analysis.
This course will also give you an introduction to the basics of Deep Learning frameworks such as Tensorflow or Keras.
 
3) CS231n by Andrej Karpathy

Price: Free
Taught by: Andrej Karpathy, the Sr. Director of AI at Tesla, leads the team responsible for all neural networks on the Autopilot. Previously, he was a Research Scientist at OpenAI working on Deep Learning in Computer Vision, Generative Modeling, and Reinforcement Learning. He received his Ph.D. from Stanford University.
Course Outcomes: This course is a deep dive into details of the deep learning architectures with a focus on learning end-to-end models for these tasks, particularly image classification. Students will learn to implement, train, and debug their own neural networks and gain a detailed understanding of cutting-edge research in computer vision. The focus is on teaching how to set up the problem of image recognition, the learning algorithms (e.g., backpropagation), practical engineering tricks for training, and fine-tuning the networks.
 
4) Stat 451: Introduction to Machine Learning

Price: Free
Taught by: Sebastian Raschka is an Assistant Professor of Statistics at the University of Wisconsin-Madison focusing on machine learning and deep learning research.
Course Outcomes: You will learn all the underlying theory of famous Machine Learning Algorithms from Neural Networks to supervised and Unsupervised Learning.
This course is originally taught at the University of Wisconsin-Madison by Dr. Sebastian.
 
5) MIT Introduction to Deep Learning | 6.S191

Price: Free
Taught by: Ava Soleimany is a Ph.D. student in the Harvard Biophysics program and at MIT, where she works with Sangeeta Bhatia at the Koch Institute for Integrative Cancer Research and am supported by the NSF Graduate Research Fellowship.
Alexander Amini is a Ph.D. student at MIT, in the Computer Science and Artificial Intelligence Laboratory (CSAIL), with Prof. Daniela Rus. He is an NSF Fellow and completed my Bachelor of Science and Master of Science in Electrical Engineering and Computer Science at MIT, with a minor in Mathematics.
Course Outcomes: 6.S191 is MIT’s official introductory course on deep learning methods with applications to computer vision, natural language processing, biology, and more! Students will gain foundational knowledge of deep learning algorithms.
Students will also get practical experience in building neural networks in TensorFlow.
 
Related:

The Online Courses You Must Take to be a Better Data Scientist

Online Certificates/Courses in AI, Data Science, Machine Learning from Top Universities

Machine Learning from Scratch: Free Online Textbook

<= Previous post

Next post =>




Top Stories Past 30 Days

Most Popular

Data Science Minimum: 10 Essential Skills You Need to Know to Start Doing Data Science

Introduction to Time Series Analysis in Python

Automating Every Aspect of Your Python Project

Free From MIT: Intro to Computer Science and Programming in Python

Machine Learning from Scratch: Free Online Textbook

If I had to start learning Data Science again, how would I do it?

Autograd: The Best Machine Learning Library Youre Not Using?

Most Shared

Data Science Minimum: 10 Essential Skills You Need to Know to Start Doing Data Science

Introduction to Time Series Analysis in Python

Modern Data Science Skills: 8 Categories, Core Skills, and Hot Skills

Machine Learning from Scratch: Free Online Textbook

Deep Learning’s Most Important Ideas

Free From MIT: Intro to Computer Science and Programming in Python

Statistics with Julia: The Free eBook

Latest News

Top tweets, Sep 30 – Oct 06: How to Explain Eac...

Free Introductory Machine Learning Course From Amazon

A step-by-step guide for creating an authentic data sci...

5 Challenges to Scaling Machine Learning Models

KDnuggets 20:n38, Oct 7: 10 Essential Skills You Need to Kn...

Effective Visualization Techniques for Data Discovery a...


Top Stories
Last WeekMost Popular

Data Science Minimum: 10 Essential Skills You Need to Know to Start Doing Data Science



The Best Free Data Science eBooks: 2020 Update

Geographical Plots with Python

Introduction to Time Series Analysis in Python

Comparing the Top Business Intelligence Tools: Power BI vs Tableau vs Qlik vs Domo

Machine Learning from Scratch: Free Online Textbook

5 Concepts Every Data Scientist Should Know


 
Most Shared

Data Science Minimum: 10 Essential Skills You Need to Know to Start Doing Data Science

The Best Free Data Science eBooks: 2020 Update

International alternatives to Kaggle for Data Science / Machine Learning competitions

Geographical Plots with Python

Machine Learning Model Deployment

How AI is Driving Innovation in Astronomy

The Online Courses You Must Take to be a Better Data Scientist

More Recent Stories

Effective Visualization Techniques for Data Discovery and Anal...

Here are the Most Popular Python IDEs/Editors

10 Best Machine Learning Courses in 2020

A Guide to Preparing OpenCV for Android

Top Stories, Sep 28 – Oct 4: Data Science Minimum: 10 Es...

New U. of Chicago Machine Learning for Cybersecurity Certifica...

Your Guide to Linear Regression Models

Key Machine Learning Technique: Nested Cross-Validation, Why a...

Getting Started in AI Research

Data Protection Techniques Needed to Guarantee Privacy

5 Concepts Every Data Scientist Should Know

Comparing the Top Business Intelligence Tools: Power BI vs Tab...

10 Days With “Deep Learning for Coders”

Data Science Minimum: 10 Essential Skills You Need to Know to Start Doing Data Science

Understanding Transformers, the Data Science Way

Top tweets, Sep 23-29: An Introduction to #AI – updat...

AI in Healthcare: A review of innovative startups

Machine Learning Model Deployment

The Best Free Data Science eBooks: 2020 Update

KDnuggets 20:n37, Sep 30: Introduction to Time Series Analy...

KDnuggets Home » News » 2020 » Oct » Tutorials, Overviews » 10 Best Machine Learning Courses in 2020 ( 20:n38 )



© 2020 KDnuggets. | About KDnuggets  | Contact  | Privacy policy  | Terms of Service
 

41SHARES

Made With ML Topics

A collection of the best ML tutorials, toolkits and research organized by topic: https://madewithml.com/topics/

H / T : Goku Mohandas

#DeepLearning #MachineLearning #Tutorials

Multi-View Brain HyperConnectome AutoEncoder For Brain State Classification

Banka et al.: https://arxiv.org/abs/2009.11553

#DeepLearning #HyperConnectome #AutoEncoder

인터넷에서 30종 인기 블로그나 온라인 사이트를 정리해 공유하였습니다. 참고가 되었으면 좋겠습니다~

　Toggle Navigation

/* Template Name: singlenew(2019.11.12) */    



빅데이터 분석 : 책보다 편한 30종 스터디 사이트

최종 업데이트:2020-5-18


데이터 과학에 관한 작업을 시작했을 뿐이지만 데이터 분석과 빅데이터 분석 전문가(ADP) 라이선스 준비를 위해 전문 서적 외에도 관련 사이트나 블로그로부터 최신 데이터 정보와 지식을 얻어야 합니다. 인터넷에서 30종 인기 블로그나 온라인 사이트를 정리해 공유하였습니다. 참고가 되었으면 좋겠습니다.
실제로 빅데이터 분석 을 할 때 좋은 정보와 데이터가 없는 경우가 많습니다. 오픈 공공데이터 포럼을 정리하고 소개하였습니다. 2 가지 함께 보시면 더 좋을 것 같습니다.

빅데이터 분석 : 온라인 사이트

  1.Dataquest:
https://www.dataquest.io/home

이 빅데이터 분석 사이트는 데이터 사이언스트,데이터 애널리스트, 또는 데이터 엔지니어에 대한 관심을 가지는 분들은 대화형 코딩 과제부터 공부하고 기준 문제 및 데이터 사이언스 프로젝트로 성장할 수 있습니다.

2.Udemy:
https://www.udemy.com

세계 최대급의 온라인 빅데이터 분석 학습 플랫폼으로서 알려졌으며 이제 8000이상의 온라인 코스가 있습니다. 머신러닝(machine learning)부터 데이터 시각화, 그리고 Python 프로그래밍까지를 포함하고 있습니다. 

3.Coursera:
https://www.coursera.org/browse/data-science?languages=en

Coursera는 전 세계 대학 및 기관과 협력하여 온하인 코스를 제공하고 있습니다.  등록자는 온라인 비디오 빅데이터 분석 강의에 엑셀을 할 수 있고, 숙제가 자동 평가되고, 커뮤니티 포럼에도 들어갈 수 있습니다. 코스 종료 후에 전자 수료증명서가 발급됩니다.

4.DataCamp:
 httpswww.datacamp.com

 스킬을 향상시키고 싶은 초보자나 숙련된 전문가에게  되게 훌륭한 학습 자원이라고 할 수 있습니다. DataCamp는 데이터 사이언스, 통계학 및 머신러닝에 관련된 인터랙티브한 R 및 Python 코스를 제공하고 있습니다.

5.Udacity:
https://www.udacity.com/course/data-analyst-nanodegree–nd002

Udacity는 Python、SQL 및 통계 데이터를 통해 인사이트를 통찰하고 중요한 발견을 전하고 데이터 구동형(driven) 솔루션을 구축하기 위해서 힘을 애쓰고 있다는 슬로건이 있습니다. 온라인 비디오 뿐만 아니라, 독자적인 스터디 관리 시스템, 빌트인 (built-in) 프로그래밍 인터페이스 및 포럼도 가지고 있습니다.

6.EdX:
https://www.edx.org/learn/data-science

 EdX에서는 데이터 분석 스킬을 기르고, 지식을 높이기 위한 무료 데이터 사이언스 코스를 제공하고 있습니다. 전 세계의 답대학 및 EdX의 글로벌 파트너의 코스를 통해 데이터 사이언스, 통계, 비즈니스 인텔리전스(BI)에 관련 자료를 함계 공부합시다.

7.CognitiveClass:
https://cognitiveclass.ai

이 사이트에서 데이터 사이언스, 인공지능, 빅데이터, 블록체인 스킬을 무료로 수강할 수 있습니다. 안드로이드 전용의 앱이 있기 때문에 사용하기 편리한다는 장점이 있습니다.

8.Springboard:
https://www.springboard.com/workshops/data-science-career-track?afmc=2h

여기서 데이터 사이언스 기초 지식을 섭득하고, 실제에 따라 high-level의 머신러닝, 자연 언어 처리, 딥러닝 등의 중점 분야를 선택하고 공부할 수 있습니다.  실제 프로젝트 연습 뿐만 아니라 맟춤형 캐리어 코칭 및 구인 사이트도 제공하고 있습니다. 

 9.Data School（YouTube）：
https://www.youtube.com/user/dataschool/featured

Data School는 워싱턴DC에서 데이터 사이언스 교육을 하고 있는 Kevin Markham씨의 채널입니다. 이 채널에서 오픈 소스 툴에 관련 사용방법, Python 및 R 등 다양한 데이터 사이언스에 기반으로 주제에 대해서 소개하는 것입니다.  무료 보기 가능하고, 현재 8만명 이상의 팔로워가 가지고 있습니다.

10.Siraj Raval(YouTube) :
https://www.youtube.com/channel/UCWN3xxRkmTPmbKwht9FuE5A/featured

Siraj Raval씨의 채널은 개발자에게 인공지능 구축을 교육하기 위한 비디오를 제고하고 있는 것입니다. 게임,음악, 채팅봇, 아트 등을 AI로 만드는 과정을 시청자들에게 알려주었습니다. 이제 팔로워는 50만명을 넘고 있습니다.

11.IntelliPaat:
https://intellipaat.com/tutorials/

IntelliPaat의 튜토리얼은 빅데이터 , 비즈니스 인텔리전스, 데이터 분석, 데이터베이스등 테마를 커버하고 있습니다. 업계 전문가에게 수강을 수료한다면 인정(증면서)를 받을 수 있습니다. 

12.Lynda:
https://www.lynda.com/search?q=data+science

Lynda에서는 빅데이터, 비즈니스 인테리전스, 데이터 분석, 데이터베이스,프로그래밍 언어 등이 포함됩니다. 자신의 수준에 따라 입문, 중급, 상급 코스를 선택할 수 있습니다. 

13.Kaggle:
https://www.kaggle.com/learn/overview

Kaggle는 초보자에게 최우선 선택이라고 할 수 있습니다. Python,머신러닝, 데이터 시각화, Pandas, R, SQL 또는 딥러닝에 관련 코스를 선택할 수 있습니다.


데이터 사이언스 블로그

1. EdwinChen 개안 블로그
http://blog.echen.me

EdwinChen 씨는 매사추세츠공과대학(MIT)에서 수학과 언어학을 전공했으며, MRS음성인식(speech recognition)，Clarium의 양적 거래, Twitter 광고, Dropbox 분석, Google 데이터 사이언스 등의 일을 하고 있었습니다. AI 인공지능과 데이터에 관한 포스트를  볼 수 있습니다.

 2.DataScience.com：
https://www.datascience.com/blog

이 블로그는 데이터 사이언티스트, 비즈니스 애널리스트 및 IT팀을 대상으로 운영하고 있습니다. 그리고 이에 대한 자신의 생각을 전하고 싶다면 여기에 독자들의 투고를 환영합니다. 

3.데이터 사이언스/101
http://101.datascience.community

컴퓨터 과학 및 통계 과학 박사 학위를 취득한 Ryan Swanstrom는 2012년부터 자신의  블로그에서 데이터 과학 자원, 뉴스 및 연구에 대한 뉴스를 공개하고 있습니다.

 4.The Shapeof Data:
https：shapeofdata.wordpress.com

JesseJohnson은 저자원 토폴로지를 연구하던 전직 수학 교수로 현재 구글 소프트워어 엔지니를 하고 있습니다. 블로그에서 현대 데이터 분석의 기본적인 사고방식에 대해 탐색하고 성명하고 있습니다. 

 5.PlanetBig:
http://planetbigdata.com

PlanetBig Matoop는 빅데이터 및 Hadoop등에 관련 블로그를 정리하는 플랫폼입니다. 전세계의 블로그를 모았습니다.

6. 빅데이터 블로그:
http://blog.bigdataweek.com

Big Data Week 회의에서의 인터뷰와 의견을 공개하고 있습니다. 회의에 참석할 수 없는 경우에는 이 블로그에서 최신 정보를 입수할 수 있습니다.

7.ChrisAblon
https://chrisalbon.com/

ChrisAblon은 통계,인공지능 및 소포트웨어 분약에서 10년이상 경험을 가진 데이터 과학자 및 정치학자입니다. 정치, 사회, 인도 활동에 익숙하며 이에 대한 많은 자료를 공유하고 있습니다.

 8.NYC AcienceAcademyAcademy
https://nycdatascience.com/blog/

교육기관인 NYC Data Science Academy의 블로그에서 R, Web 크롤, 머신러닝에 관한 포스트를 공개하고 있으며 온라인 코스도 있습니다. 데이터 사이언스 분야에서 축적하는 경험에 의해서, 기업에 스킬과 전략 트레이닝을 제공하고 있습니다.

9.DBMS2:
http://www.dbms2.com/

DBMS2는 데이터베이스와 데이터 분석 스킬에 관심이 있는 분들에게 업계 전문가의 리뷰를 제공하는 플랫폼입니다. 필자인 Curt Monash씨는 30년 동안 업계에 주목하고 왔습니다.

10.Data36：
https://data36.com/

Tomi Mester씨의 블로그에서는, 온라인 데이터 아날리스트 베스트 프랙티스에 대해 자세하게 해설하고 있습니다. 데이터 분석, AB테스트, 조사연구 및 데이터 사이언스에 관련된 포스트, 코스 및 비디오를 공유하고 있습니다.

11.데이터베이스 관리시스템 운영:
http://www.odbms.org/

이 사이트는 빅데이터, 최신 데이터 관리 테크놀로지 그리고 데이터 사이언스에 관련 자료가 포함된 포털입니다. 필자는 프랑크푸르트 대학의 데이터베이스 및 정보 시스템 교수입니다.

12.Yanir Seroussi 블로그 ：
https://yanirseroussi.com/

Yanir Seoussi씨는 프로그래밍, 컴퓨터 사이언스, 머신러닝 및 통계에서 풍부한 경험을 가진 데이터 사이언티스트 및 소프트웨어 엔지니어입니다.그의 블로그에 고립된 데이터의 문제부터 생산 시스템의 구축까지의 아이디어가 포함되어 있습니다.

13.SimplyStatistics:
https://simplystatistics.org/

이 블로그는 Jeff Leek, Roger Peng, Rafa Irizarry 3명의 생물 통계학 교수에 의해서 쓰여졌습니다. 과학적 논의에 기여하는 흥미로운 포스트에 대해 코멘트하고, 그리고 신인 통계학자와 의견을 공유합니다.

 14.What is big data
https://whatsthebigdata.com/

Gil Press는 라이팅, 리서치, 마케팅 서비스를 제공하는 “gPress”라는 컨설팅 사업을 경영하고 있습니다.  블로그에서는 빅데이터에 관한 정보기술, 비즈니스 업계, 정부기관, 그리고 우리 생활에 미치는 영향에 대한 것을 알아보고 있습니다.

15.Towards Data Science：
https://towardsdatascience.com/

이 블로그는 수천명의 사람들이 의견을 교환하고 데이터 사이언스에 대한 이해를 증진시키는 플랫폼입니다.각 전문적인  데이터 사이언티스트로부터 다양한 내용을 읽을 수 있습니다.

 16.AlexisPerrier:
https://alexisperrier.com/

Alexis Perrier씨는 기업의 머신러닝을 지원한 적이 있는 데이터 사이언스 강사입니다. 자신의 블로그에서 선형회귀 등에 대한 상세한 연구를 공유했습니다.
러닝을 지원한 적이 있는 데이터 사이언스 강사입니다. 자신의 블로그에서 선형회귀 등에 대한 상세한 연구를 공유했습니다.

17.Algobeans:
https://algobeans.com/

Algobeans는 케임브리지대학의 Annalyn 및 스탠퍼드대학의 Kenneth에 의해 설립되었습니다. 데이터 사이언스의 애호가로서 누구나 쉽게 데이터 사이언스를 공부할 수 있도록 사이트를 작성했습니다.
페이스북에서 FineReport Reporting Sofeware채널을 구독하고 더 많은 데이터 시각화 정보를 받으세요!

체험판 무료로 알아보기

더 많은 보기…

1분 안에 인사으트를 보는 대시보드 디자인 도구 및 제작사례 10가지
2020년 BI Tool의 주요 기능 TOP10
보고서 유형 및 샘플 10가지 알아보기!

FacebookTwitterEmail나누기

2020년 국내외 데이터 시각화 툴 4종 사용 후기



2020년 은행 대시보드 인기 샘플 TOP 3



위로

제품문의
상담/문의： 031-450-3011
고객 지원：korea@fanruan.com

               
Copyright©2018 FanRuan Software Co., Ltd.
苏ICP备14031611号-1

풀스택 딥러닝

[https://course.fullstackdeeplearning.com/](https://course.fullstackdeeplearning.com/?fbclid=IwAR0tUATP_PY5_xNXnQv4s0D3xaozZvuHxqrjCY2r37Em6bj4i8ATqf7C8uQ)

예전에 어떤분이 텐플코에 공유해주셔서 꼭 한번 봐야겠다 생각해서 3주정도 천천히 보면서 내용을 정리해서 포스팅해봤습니다! 유명한 게스트 강사들의 강연도 합치면 10시간치 영상은 더 있는 것 같지만 그건 내용 정리에 대한 부담없이 편하게 보려고 합니다.

머신러닝을 배우다보면 모델 학습과 아키텍처에 치중되게 되는데, 상대적으로 부족한 프로덕션에서 필요한 머신러닝 팀과 프로젝트 관리, 데이터 파이프라인 관리, 모델 배포 등에 대해서 잘 정리된 강의입니다.

제가 잘 몰라서 들으면서 잘 몰라가지고 ?? 쳐놓으며 써놓은 부분도 있는데 ㅠ 그런 부분들 댓글로 알려주시면 감사하겠습니다.

1. Setting up Machine Learning Projects [https://medium.com/@heegyukim/full-stack-deep-learning-setting-up-machine-learning-projects-32681ccac007](https://medium.com/@heegyukim/full-stack-deep-learning-setting-up-machine-learning-projects-32681ccac007?fbclid=IwAR0tUATP_PY5_xNXnQv4s0D3xaozZvuHxqrjCY2r37Em6bj4i8ATqf7C8uQ)

2. Infrastructure and Tooling

[https://medium.com/@heegyukim/full-stack-deep-learning-infrastructure-and-tooling-e0cd33af7a9e](https://medium.com/@heegyukim/full-stack-deep-learning-infrastructure-and-tooling-e0cd33af7a9e?fbclid=IwAR0tUATP_PY5_xNXnQv4s0D3xaozZvuHxqrjCY2r37Em6bj4i8ATqf7C8uQ)

3. Data Management

[https://medium.com/@heegyukim/full-stack-deep-learning-data-management-7ee8ca43aac7](https://medium.com/@heegyukim/full-stack-deep-learning-data-management-7ee8ca43aac7?fbclid=IwAR0tUATP_PY5_xNXnQv4s0D3xaozZvuHxqrjCY2r37Em6bj4i8ATqf7C8uQ)

4. Machine Learning Teams

[https://medium.com/@heegyukim/full-stack-deep-learning-machine-learning-teams-8aaa2e22b5ca](https://medium.com/@heegyukim/full-stack-deep-learning-machine-learning-teams-8aaa2e22b5ca?fbclid=IwAR0tUATP_PY5_xNXnQv4s0D3xaozZvuHxqrjCY2r37Em6bj4i8ATqf7C8uQ)

5. Training and Debugging

[https://medium.com/@heegyukim/full-stack-deep-learning-training-and-debugging-1c0f1d587e66](https://medium.com/@heegyukim/full-stack-deep-learning-training-and-debugging-1c0f1d587e66?fbclid=IwAR0tUATP_PY5_xNXnQv4s0D3xaozZvuHxqrjCY2r37Em6bj4i8ATqf7C8uQ)

6. Testing and Deployment

[https://medium.com/@heegyukim/full-stack-deep-learning-testing-and-deployment-d98568424a8a](https://medium.com/@heegyukim/full-stack-deep-learning-testing-and-deployment-d98568424a8a?fbclid=IwAR0tUATP_PY5_xNXnQv4s0D3xaozZvuHxqrjCY2r37Em6bj4i8ATqf7C8uQ)

https://www.facebook.com/groups/PyTorchKR/permalink/1826343574171982/

안녕하세요! super resolution과 관련한 정말 기초적인 질문이 있어 왔습니다!ㅜ.ㅜ

이미지 분류는 resnet과 같은 CNN 기반의 모델, detection은 yolo 등과 같이 각 task의 대표적인(상징적인?) 모델이 있습니다.(sota가 아니더라도..)

Super resolution에서는 어떤 모델이 대표적인, 혹은 많이 사용되는지 궁금합니다!

가장 대표적인 모델은 SRGAN이 아닐까 싶습니다
https://arxiv.org/abs/1609.04802

https://hoya012.github.io/blog/SIngle-Image-Super-Resolution-Overview/

제 블로그에 Super Resolution 관련하여 정리해둔게 있어서 참고하시면 좋을 것 같습니다.

1주 1논문 리뷰 프로젝트 공유
안녕하세요. TFKR! 대학 여름방학 마지막 주를 맞아, 제가 이번 방학동안 진행한 1주 1논문 리뷰 프로젝트를 공유하고자 합니다!
여름방학 8주간 5편의 딥러닝 관련 논문을 리뷰하는 영상을 만들어 유튜브에 업로드하였습니다. 영상 시청보다 자료를 선호하시는 분들을 위한 PDF 자료도 준비되어 있습니다!
영상: https://www.youtube.com/playlist?list=PLDU04UBu69OG6mJ8m5osSxxQ0CFSej_e1
PDF: https://github.com/skyil7/paperReview
회고: https://skyil.tistory.com/93
논문 선정, 리뷰 과정 등에서 항상 TFKR 분들께 많은 도움을 받고 있습니다! 제 자료가 좋은 선순환을 만드는데 도움이 되었으면 좋겠네요😊
TFKR 여러분 남은 여름 건강하고 알차게 보내시길 바랍니다! 감사합니다~

안녕하세요. 모두연 여러분.
얼마전에 열렸던 AI Grand Challenge 4차 대회의 경량화 트랙에서 사용했던 구현체를 공개합니다 (최종결과 우승, 팀 제이마플).
https://github.com/j-marple-dev/model_compression
저장소의 내용은 크게 Pruning / Knowledge Distillation / Quantization으로 구성되어 있으며, 그 외에도 경량화 단계에서 성능을 유지하는데 도움이 되는 학습방법들이 포함되어 었습니다.
더불어 초심자 단계에서부터 대회 참가까지 2달여 간의 준비과정 및 참고자료를 슬라이드로 제작해 보았습니다. 부디 누군가에게 도움이 된다면 좋겠습니다.
https://www.slideshare.net/KimJunghoon5/2020-dld-238284732
참고로 위 슬라이드의 내용은 AI:Festival(http://aifestival.hellodd.com/) 발표로도 소개될 예정입니다 (9월 2일). 추후 발표영상도 공유드리도록 하겠습니다.
------------------------------------------------------
내용
Network Architecture
MixNet
Fast DenseNet
Augmentation
AutoAugment
RandAugment
CutMix
CutOut
Loss
Cross Entropy Loss + Label Smoothing
Hinton Loss
LR Scheduler
Cosine Annealing + Initial Warmup
Unstructured Pruning
Lottery Ticket Hypothesis
Weight Rewinding
Learning Rate Rewinding
Structured Pruning
Magnitude Pruning
Network Slimming
Magnitude Pruning + Slimming
Channel-Wise Pruned Model Shrinker (Experimental)
Quantization
Post Training Quantization
Quantization Aware Training

A novel neural network to generate high-resolution images
For project and code/API/expert requests: https://catalyzex.com/paper/arxiv:2008.10399

https://www.facebook.com/groups/TensorFlowKR/permalink/1282565068751215/

안녕하세요, 왕초보입니다.
MacOS, Windows 또는 LInux ?
인공지능을 제대로 공부하려는데요, 어떤 운영체제에서 시작하는 것이
성능 측면에서 (동일한 하드웨어 가정)
커뮤니티 측면에서 (추후 Q&A 시)
바람직할지 여쭤봅니다. 미리 감사드립니다. ^____^
MacOS, Windows는 친숙하고, Linux는 필요시 더 친숙해지려구요.

리눅스 컴퓨터로 하시는걸 적극*10000 추천드립니다... 윈도우도 cmd가 있지만 터미널이 진짜 편하고 온라인으로 나와있는 튜토리얼들도 왠만해서는 리눅스에서 돌리기 편합니다...

개인적으로 제일 좋았던건, 리눅스 컴퓨터 좋은거 맞추고 맥으로 그 컴퓨터를 ssh해서 학습 돌리는 거 였습니다. 개발은 mac에서 하고, 학습은 linux으로 하는 식으루요

Linux가 성능이나, 커뮤니티 측면에서 여러모로 편리합니다.
Mac으로 ssh 접속도 편리하고요.

Mac이 익숙하시니, Linux에 큰 이질감 없이 금방 적응하시리라 믿습니다.

Pose2Mesh: Graph Convolutional Network for 3D Human Pose and Mesh Recovery from a 2D Human Pose 이번에 ECCV2020에 붙은 제 논문입니다.
in-the-wild image에서 3D human pose and mesh를 recover할 때 사용되는 3D 학습 데이터는 보통 controlled environment (ex. 실내 스튜디오)에서 얻어지는데, 이 때 in-the-wild 데이터와 controlled environments 데이터의 image appearance 차이로 인한 domain gap 문제를 해결하고자 하는 논문입니다.
관심있으신 분은 youtube 영상 시청해주세요!
youtube: https://www.youtube.com/watch?v=utaHeByNauc&t=12s
github: https://github.com/hongsukchoi/Pose2Mesh_RELEASE
arxiv: https://arxiv.org/abs/2008.09047

간단히 바로 가져다 쓸 수 있는 easyOCR API 소개 드립니다.

강원도 놀러갈 때마다 보이는 간판인데, 신나기 시작하는 "인제 - 신남" 간판 한번 테스트 해보았습니다.

아래 처럼 POST로 바로 호출할 수 있습니다.

curl -X POST "https://master-easy-ocr-wook-2.endpoint.ainize.ai/word_extraction" -H "accept: images/*" -H "Content-Type: multipart/form-data" -F "language=ko" -F "base_image=@인제신남.jpg;type=image/jpeg"

github: https://github.com/JaidedAI/EasyOCR

demo:

https://master-easy-ocr-wook-2.endpoint.ainize.ai/

[https://github.com/Wook-2/EasyOCR](https://github.com/Wook-2/EasyOCR)

SNU AI (구 SNU TF) 스터디 모임 7기에서 매주 발표되는 논문리뷰 자료들을 정리하여 TF Korea 분들께 카드뉴스형식으로 정리한 SNACK U AI Week 마지막주차!🧑🏽‍💻👩🏾‍💻를 공유드립니다!
마지막까지 SNU AI 성격답게 병리학부터 게임이론까지! 다양한 논문이 나왔네요!
다들 월요팅하시고 월요일 맞이로 논문 읽기도, 쓰기도 하는 SNU AI 8기 신청은 어떠신가요~? 🤷‍♀️🤷‍♀️ (온라인 예정이지만, 코로나 진행상황에 따라 차 후 온/오프 병행예정입니다 :) )
* 신청 링크: https://www.facebook.com/groups/TensorFlowKR/permalink/1276550572685998
Week 10 part 1(안재만): Hidden Technical Debt in Machine Learning Systems
https://papers.nips.cc/paper/5656-hidden-technical-debt-in-machine-learning-systems.pdf
Week 10 part 2(이홍석): HoVer-Net
https://arxiv.org/abs/1812.06499
Week 11 part 1(정욱재) : DynaBERT: Dynamic BERT with Adaptive Width and Depth
Week 11 part 2(Seo Taek Kong): Regret Minimization in Games with Incomplete Information
https://papers.nips.cc/paper/3306-regret-minimization-in-games-with-incomplete-information
Optimistic Regret Minimization for Extensive-Form Games via Dilated Distance-Generating Functions
http://papers.neurips.cc/paper/8764-optimistic-regret-minimization-for-extensive-form-games-via-dilated-distance-generating-functions
자세한 자료는 7기 발표자료를 모아둔https://drive.google.com/drive/folders/0B8z5oUpB2DysbFNEOWxfVDh5VW8에서 확인하실 수 있습니다!
Instagram: instagram.com/snu_ai_official

안녕하세요. 새로 운영진에 합류하게 된, 그리고 비엔나에서 로봇 비전 연구하는 박기루 입니다. 운영진이 되고나서.. 첫글로 제 논문 홍보를 하기는 좀 그래서 방금 끝난 ECCV 워크샵 중 가장 로봇과 가까운 분야 중 하나라고 할 수 있는 Recovering 6D Object Pose 워크샵에서 열린 BOP Challenge소식도 함께 준비해 보았습니다.

저의 연구주제인 Object Pose estimation관련해서 SOTA방법론들과 전통방법의 대표인 PPF(Point Pair Feature)가 경쟁하는 BOP challenge가 작년에 이어서 Recovering 6D Object Pose workshop (http://cmp.felk.cvut.cz/sixd/workshop_2020/) 과 함께 열렸는데요, 작년에 비해 훨씬 뜨거웠던 경쟁 끝에 드디어 2회 우승에 빛나는 PPF를 물리치고 CosyPose라는 방법이 1등을 차지하였습니다. 이번 ECCV에서 발표 예정인 이 방법은 엄청 Extreme한 Data augmentation을 적용한게 매우 인상깊은 방법이었습니다. RGB이미지만 이용하다보니 Depth이미지를 이용한 ICP(Iterative Closest Point)를 사용하지 않았다면 또 다시 PPF에 1등 자리를 내주는 상황이었는데 ICP덕에 1등을 하게 되었네요. (저자가 ICP는 제 Pix2Pose코드를 사용하였다는..깨알 자랑) RGB만 가지고 얻은 결과도 정말 박수가 나올만큼 경이로운 기록을 세우긴 하였습니다. 이제 CNN을 이용한 Pose Estimation연구도 점점 정형화가 되고 자리가 잡아가는 느낌을 받고, 더 좋은 트레이닝을 위한 렌더링 방법들도 좋아지고 있는 것 같습니다. 아쉽게도 이제는 퇴물(?)인.. 저의 Pix2Pose는 4위에 그쳤고.. 작년 부터 유지해오던 YCB-V 데이터 1위자리도 결국 내어주고 말았습니다. 1년 사이에 새로나온 논문들의 성능향상이 너무 눈부셔서 놀라움의 연속이었습니다.

아무튼 더 본론으로 들어가서, BOP Challenge에 사용 된 데이터셋들은 모두 3D 모델을 제공과 더불어 모델에 Texture까지 깔끔하게 입혀져 있어서 렌더링에 사용이 되고, 몇몇 데이터셋은 수천장의 Real image에 Pose를 일일이 체크해서 학습용으로 제공을 합니다. 하지만, dataset에 있는 물체가 아닌 내 책상에 올려져 있는 실제 물건들의 Pose를 측정하려면 어떻게 해야할까요? 모델에 Texture도 없고.. 수백, 수천장의 이미지에 Pose를 annotation할 시간도, 인력도 없다면? 바로 이런 상황에서 CNN들을 학습 시킬 수 있는 이미지를 만들어내는 연구를 이번 ECCV에서 Spotlight로 발표하게 되었습니다. ECCV 참석 중인 분들은 월요일(8월 24일) 오전 6시(한국 오후2시), 2시 (한국 오후10시) Live Q&A Session으로 초대드립니다. 최첨단(?) 크로마키 효과가 들어간 10분발표도 많이 시청해주시고요. ECCV참석과는 별개로 비슷한 연구 주제를 하고 계시거나 자세한 설명, 토론이 필요하시면 메신저로 연락주시고 즐겁게 이야기 나누면 좋을 것 같아요!

논문:https://arxiv.org/abs/2005.03717

코드:https://github.com/kirumang/NOL

Dataset:https://www.acin.tuwien.ac.at/en/vision-for-robotics/software-tools/smot/

ECCV paper site link (등록 하신 분만 보실 수 있는 링크): https://papers.eccv2020.eu/paper/2636/

Video: https://www.youtube.com/watch?v=fQJPS01cmac&t=9s

유럽, 한국 모두 코로나가 다시 심해지고 있는 이시기,

모두 건강하시고, 즐거운 ECCV 되시길 바랍니다!

#KcBERT #Dataset #Corpus

안녕하세요, KcBERT 학습에 사용한 데이터셋을 Kaggle을 통해 공개합니다!

KcBERT는 네이버 뉴스 댓글 데이터 2019.01.01~2020.06.11자 '랭킹뉴스'의 댓글로 학습한 Pretrain BERT 모델이고, 이번에 공개한 Cleaned 데이터셋으로 학습을 진행했습니다.

데이터셋은 약 12GB의 댓글로 이뤄져 있습니다.

아래 캐글 링크에서 다운 받으시고 여러분만의 Pretrain을 진행해 보세요!

https://www.kaggle.com/junbumlee/kcbert-pretraining-corpus-korean-news-comments

캐글 첫 4x 그랜드마스터인 Abhishek Thakur가 머신러닝 딥러닝 코스를 기획중인것 같습니다

상당히 다양한 주제를 커버할 것으로 보이는데요, 첨부파일이 코스 드래프트를 보여줍니다. 신청 양식은 아래 링크에 있구요 :)

https://docs.google.com/forms/d/e/1FAIpQLSfzU_W7KjzATgCtFMajCnUGO4XwsxBqebRgv1VeRGYwGUAsHw/viewform

# 질문 있습니다!

첨부한 파일은 성별 전환 애플리케이션(Application)으로 레오나르도 디카프리오(Leonardo DiCaprio)의 성별을 '여성'으로 전환시킨 영상입니다.

요는 어떤 GAN 모델을 사용하면 위와 같은 작업을 할 수 있을까요?

StarGAN Version 2 논문 1쪽에 나오는 그림 1을 보고 판단해보면 StarGAN Version 2로도 가능할까요?

Deep Learning Basics
By Daniel Worrall, MLSS Indo2020
ML Basics Video: https://youtu.be/FrbWQDdGpHQ?t=40
Slides: https://deworrall92.github.io/docs/MLSSIndo1_lo_res.pdf
DL Basics Video: https://youtu.be/K59cmobQKew?t=270
Slides: https://deworrall92.github.io/docs/MLSSIndo2_lo_res.pdf
Equivariance Video: https://youtu.be/HPU--yAGIBQ?t=407
Slides: https://deworrall92.github.io/docs/MLSSIndo3_lo_res.pdf
#ArtificialIntelligence #DeepLearning #MachineLearning

요즘 화제가 되고 있는 #OpenAI의 #GPT3 원리를 멋진 애니메이션 비주얼과 함께 설명한 글입니다. (영어)

[https://jalammar.github.io/how-gpt3-works-visualizations-animations/](https://jalammar.github.io/how-gpt3-works-visualizations-animations/)

#schoolofai #openai #gpt3 #nlp #machinelearning

COCO-WholeBody dataset is the first large-scale benchmark for whole-body pose estimation. It is an extension of COCO 2017 dataset with the same train/val split as COCO.

For project and code/API/expert requests: https://www.catalyzex.com/paper/arxiv:2007.11858

For each person, they annotate 4 types of bounding boxes (person box, face box, left-hand box, and right-hand box) and 133 keypoints (17 for body, 6 for feet, 68 for face and 42 for hands).

Get the free ML code finder browser extension:
Chrome https://bit.ly/code_finder_chrome
Firefox https://bit.ly/code_finder_firefox.

Made With ML Topics
A collection of the best ML tutorials, toolkits and research organized by topic: https://madewithml.com/topics/
#DeepLearning #MachineLearning #Tutorials

Image Augmentation Is All You Need: Regularizing Deep Reinforcement Learning from Pixels
Kostrikov et al.: https://arxiv.org/abs/2004.13649
Code: https://github.com/denisyarats/drq
Website: https://sites.google.com/view/data-regularized-q
#DeepLearning #MachineLearning #ReinforcementLearning

COCO-WholeBody dataset is the first large-scale benchmark for whole-body pose estimation. It is an extension of COCO 2017 dataset with the same train/val split as COCO.

For project and code/API/expert requests: https://www.catalyzex.com/paper/arxiv:2007.11858

For each person, they annotate 4 types of bounding boxes (person box, face box, left-hand box, and right-hand box) and 133 keypoints (17 for body, 6 for feet, 68 for face and 42 for hands).

Get the free ML code finder browser extension:
Chrome https://bit.ly/code_finder_chrome
Firefox https://bit.ly/code_finder_firefox.

Latest from Stanford and Adobe Researchers: Inferring 3D human motion from video sequences that takes initial 2D and 3D pose estimates as input.
For project and code/expert/API requests: https://www.catalyzex.com/paper/arxiv:2007.11678.
This process produces motions that are significantly more realistic than those from purely kinematic methods, substantially improving quantitative measures of both kinematic and dynamic plausibility.

Latest from Max Planck researchers: State of the art in Shape and Pose Disentanglement for 3D Meshes!

For project and code/expert/API requests: https://www.catalyzex.com/paper/arxiv:2007.11341

The experiments on datasets of 3D humans, faces, hands and animals demonstrate the generality of our approach.

From #ECCV2020: Reconstruct a morphable shape, texture, and viewpoint from an image collection without 3D ground truth *and* 2D keypoints, allowing us to explore new categories like shoes!

For project and code/expert/API requests: https://www.catalyzex.com/paper/arxiv:2007.10982

Facebook released a Machine Learning algorithm (Multilevel Pixel Aligned Implicit Function For High Resolution 3D Human Digitization.) that can reconstruct or generate 3D pose by just looking at a single image. So, is this a replacement of Character Designers. What do you think guys?

Paper: https://arxiv.org/pdf/2004.00452.pdf
Code: https://github.com/facebookresearch/pifuhd
Colab: https://colab.research.google.com/drive/11z58bl3meSzo6kFqkahMa35G5jmh2Wgt

Credit: PIFuHD or Multilevel Pixel Aligned Implicit Function For Heigher Resolution 3D Human Digitization.

#MachineLearning #machinelearningalgorithms #facebookpost #AI #artificialintelligence #facebookページ