본문 바로가기

Programming/Deep learning29

Traning/test dataset, Learning rate, normaliztion 07-1 : training/test dataset, learning rate, normalization. 알파값을 임의로 정하였습니다. 소스코드에서 코스트를 정의하고. 미니마이즈할때. 러닝레이트를 임의의 값을 넘겨 주었습니다. 러닝 레이트를 잘 정하는 것이 중요합니다. 굉장히 큰 값을 정한다고 보면, 경사면을 따라서 한발자국의 스텝이 있습니다. 그레디언트 디센트. 코스트 함수 웨이트가 여러개있을때 2차원상에서 표현을 하게 됩니다. 왜곡된 형태의 등고선이 나타날 것입니다. 알파값을 잡았을 때, 노말라이즈 할 필요가 있습니다. 보통 많이 쓰는 방법이 제로 센터 데이터입니다. 또 가장 많이 사용하는 것은 이 값 전체의 범위가 항상 범위안에 들어가도록 노말라이즈 하는 것입니다. 러닝 레이트. 코스트 함수 발산.. 2018. 5. 3.
CNN(Convolutional Neural NetworK) 개념 정리 Machine/Deep Learning 수업의 개요와 일정 요약 2016년 3월 컴퓨터 역사, 인류 역사에 기록될 사건입니다. 알파보가 이세돌 선수에게 4:1의 승을 거두었습니다. 머신 러닝의 대가 앤드류 응교수님. 지금 시대에 머신 러닝을 잘 이해하고 잘 활용해서 슈퍼파워를 가질 수 있다고 말씀하심. 머신러닝을 블랙박스로 사용하다 간단한 이해를 가지고 사용만 합니다. 와이는 더블유엑스 플러스 비 입니다. 목표는 다음과 같습니다. 기본 머신 러닝 알고리즘을 이해하는 것입니다. 선형 회귀와 로지스틱 회귀(분류). 뉴럴 네트워크, 컨볼루션 뉴럴 네트워크, 리커런트 뉴럴 네트워크, 파이선과 텐서플로를 사용하여 나의 문제를 풀고자 합니다. 보고 배우면서 사용하고 있습니다. 대력적인 스케쥴은 머신러닝은 무엇인지 .. 2018. 5. 3.
기계학습(Machine Learning) 시간이 지남에 따라 세상은 사람조차 어떻게 작동되는지 아직 정확히 모르는 영역을 구현하는 프로그램을 요구하기 시작했습니다. 대표적으로 음성인식을 들 수 있습니다. 애플의 시리 같은 프로그램을 만든다고 생각해봅니다. 일단 사람이 어떤 문장을 말했는지 소리 -> 알파벳으로 알아들을 수 있어야 하며, 알파벳으로 이루어진 그 문장이 어떠한 의미를 갖는지 해석 할 수 있어야 합니다. 전체적인 데이터를 보고 그것이 의미하는 정보들을 명확히 짚어낼 줄 알아야 합니다. 기계학습. 이름에서 알 수 있듯이 기계학습은 기계, 즉 컴퓨터를 인간처럼 학습시켜 스스로 규칙을 형성 할 수 있지 않을까하는 시도에서 비롯되었습니다. 주로 통계적인 접근 방법을 사용하는데, 위의 독감의 예와 반대로 독감이 걸린 사람은 대부분 열이 많이 .. 2018. 5. 3.
네이버 클로바는 무엇? 네이버 클로바용도: 음성 인식 비서 서비스지원 기기: 안드로이드, IOS출시일: 2017.05 대부분의 음성 이닉 비서 서비스들과 비슷하게, 자연어 처리, 음성 인식 철에 딥러닝 기술을 사용합니다. iOS 11 이후의 Siri처럼 음성 합성 기술에도 머신러닝을 사용해 다른 비서보다 음성이 더 자연스럽고, 감정을 담은 것 같다. 음성을 통해 네이버의 검색 엔진을 사용하거나 외국어를 번역할 수 있으며 개인 일정, 알람, 메모 등을 등록 및 질의할 수 있다. 네이버 뮤직, 지니 뮤직, 벅스와 연동되어 음성으로 음악 추천을 요청하거나 특정한 음악의 제목을 마하면 자동으로 음악을 찾아서 재생합니다. 국내 비서 플롯폼 중 유일하게 여러 음원 서비스를 이용 할 수 있습니다. 현재 영어 프리토킹 모드는 앱에서 지원되지.. 2018. 4. 9.
Classifier 알 수 있습니다. 이런 것들 사실은 만들기 위해서 만들어 봤지만, 잘 만들기 위해서는 알아 볼 필요성이 있습니다. 최적화 분류, 분류 경계선 x가 하나의 랜더베리어블 일때, 키의 분포에 따라 유무 키큰 사람 키 작은 사람 없는 사람 다 가, 오라고 해서, 키에 계산이 가능하리라 생각됩니다. 노말을 따른닥 가정을 하면 노말을 하면 피엑스 바 피엑스, 파라미터들을 추정을 해서 넣어 줄 수 있을 것 입니다. 예를 들면, 있고, 없고 키만 활용하는 것이 아니라 키와 지역, 200개 정도의 다큐멘트를 가지고 벡터의 길이를 제어보니, 29717 유니크 워드가 있었습니다. 오케이요. 사람들이 쓰는 단어들이 다양 합니다. 클래스는 파지티브와 내가티브가 있습니다. 나이브 베이지 클래시 파이어 베리어블이 정의됩니다. 배그오브워드라는 말이 .. 2018. 1. 22.
machine learning 룰 베이스느 러닝이 있습니다. 레코드가 있습니다. 기록이 있습니다. 특정한 태스크 티를 정의해보도록 하겠습니다. 이 퍼펙트한 월드에서는 어떻게 하는지, 놀 수 있다. 없다는 클래스파이 에스오억 노라고 하는 것입니다. 그런 태스크를 만들도록 하겠습니다. 완벽한 세상, 완전한 세상. 관측의 에러는 없습니다. 일관적이지 않은 관측도 없다고 하겠습니다. 날이 맑으면, 일관적인 행동이 있습니다. 데이터 중에 어떤 것이 가장 중요한지 임무를 돌아보도록 하겠습니다. 펑션 어프로시멩션을 어떻게 하면 좋을까? 현실감있게, 하무를 근접화하는 것입다. 훌륭한 에이아이 라고 할 수 있습니다. 인스턴스를 정의하겠습니다. 하나의 예를 들면, 4개의 인스턴스가 있습니다. 트레이닝 데이터 셋이 있습니다. 그리고 가설이 있습니다 오케.. 2018. 1. 22.
Motivation 머신러닝 기계학습, 많이 활성화된 이유가 데이터가 축적이 되었고, 공개되어 있고, 처리할 수 있는 능력이 생겼습니다. 보면 다양한 신문정보라던지 소셜 네트워크, 머신의 로그 데이터도 사용됩니다. 주가지수의 변동 스페셜 정보 이런것들도 많이 쓰이고 있습니다. 이런 정보들을 특성에 맞춰서 본다고 하면 텍스트, 네트워크, 타임 시리즈, 시계열 기반의 데이터가 있습니다. 이미지 데이터도 있습니다. 주가 지수, 마켓의 상태는 어떠한가, 번호판 자동으로 인식해서 문을 열어주는 시스템이 있습니다. 번호판을 인식하는 것 페이스북하거나 트위터하느 것들, 팔로우하면 좋을 것들, 추천되서 나오는 것들, 로봇들을 행동을 결정합니다. 헬리콥터가 날아가고 있을때, 인버티드 그런 행동들을 현실화가능합니다. 요약하고 정리하고 군집하.. 2018. 1. 22.
시간이 변하는 것을 예측해봅니다. 오픈때 가장 높을때 가장 낮을때 볼륨 닫힐떄, 날마다 이것을 타임 시리즈라고 할수가 있습니다. 이것을 가지고 예측을 하고 싶습니다. 이런 형태가 되겠습니다. 하루 전에 어떤 데이터 7일이전의 데이터를 넣고 내일의 가격은 어떻게 될 것인가 예측해보는 것입니다. 매니 투 원이 될 수 있습니다. 이런 형태의 예측., 오케이 하루전의 데이터르 가지고 하는 것보다 이전의 데이터가 어떻게 영향을 미친다 타임 시리즈의 가설입니다. 매니 투 원의 아이디어 입니다. 구체적으로 어떻게 넣을 것인가요. 자 이것을 알고 피은 것이 이것이다. 이전 데이터가 되겠습니다. 데이원 데이2가 되겠습니다. 여기서 하나씩 넣는 것입니다. 이렇게 이런식으로 넣어줍니다. 오케이요. 이렇게 한다음에 정작 알고싶은 값을 예측해봐라 이것입니다. .. 2018. 1. 18.
RNN 이 있습니다. 음성 인식이라던제 시퀀스 데이터가 입니다. 음성언어 자연어 이야기 하는 것이 이해하는 것인데, 이해하는 방법이 하나의 단어, 이것만 이해한다고 해서 전체 맥락을 이해하는 것이 아닙니다. 이전에 했던 단어들을 다 이 해한다음에 이해하는 것입니다. 이런것들이 바로 시퀀스 데이터가 되겠습니다. 기존에 있는 뉴럴 네트워크 컨볼루션 네트워크가 있으면 출력ㅇ으로 나타나는 간단한 형태이기 때문에 시리즈 형태의 이러한 형태의 불편했던 것입니다. 많은 사람들이 고민한 끝에 출력한 것이 이런형태의 네트워크가 되겠습니다. 시리즈 데이터를 이야기 할때 이전의 결과. ㅈ 이렇게 있을 때 계산할 수 있겠죠. 와이라고 할꼐요 계산할 수가 있는데, 여기에 현재 스테이트가 다음것에 영향을 미친다 이런식으로 그림을 미치는데 구현하면 됩.. 2018. 1. 18.
ConvNet활용의 예 전에 Conv 레이어 만들기 c몇 개의 값을 모을 수가 있을까요. 이것이 중요한 것입니다. 이 값들을 알아야 이 웨이트의 값을 알 수 있습니다. 설계를 할 수 있게 됩니다. 7곱하기 7이고 필터 3곱하기 3이라고 합니다. 이 점에서 한 값입니다. 5곱하기 5가 나옵니다. 오케이요. 똑같은 방법으로 밑으로 5번입니다. 아래로 출력이 5바이5 가 됩니다. 한칸씩 옆으로 움직이는데, 이 값을 스트라이드라고 합니다. 한칸씩 움직인다는 말입니다. 스타라이드가 2이면 2칸씩 움직입니다. 3바이3의 이미지로 아웃풋이 생겨나게 됩니다. 오케이요. 전반적으로 보게 되면 엔곱하기 엔이 입력이 있다고 했을때 에프라고 햇을때 총 몇개의 값이 몇칸 움직일번이가를 나눌까 하고 1을 하면 됩니다. 이미지가 7이고 필터가 3일떄 오케이요. 오케이요. 산수를 하.. 2018. 1. 18.