본문 바로가기

전체 글547

Classifier 알 수 있습니다. 이런 것들 사실은 만들기 위해서 만들어 봤지만, 잘 만들기 위해서는 알아 볼 필요성이 있습니다. 최적화 분류, 분류 경계선 x가 하나의 랜더베리어블 일때, 키의 분포에 따라 유무 키큰 사람 키 작은 사람 없는 사람 다 가, 오라고 해서, 키에 계산이 가능하리라 생각됩니다. 노말을 따른닥 가정을 하면 노말을 하면 피엑스 바 피엑스, 파라미터들을 추정을 해서 넣어 줄 수 있을 것 입니다. 예를 들면, 있고, 없고 키만 활용하는 것이 아니라 키와 지역, 200개 정도의 다큐멘트를 가지고 벡터의 길이를 제어보니, 29717 유니크 워드가 있었습니다. 오케이요. 사람들이 쓰는 단어들이 다양 합니다. 클래스는 파지티브와 내가티브가 있습니다. 나이브 베이지 클래시 파이어 베리어블이 정의됩니다. 배그오브워드라는 말이 .. 2018. 1. 22.
machine learning 룰 베이스느 러닝이 있습니다. 레코드가 있습니다. 기록이 있습니다. 특정한 태스크 티를 정의해보도록 하겠습니다. 이 퍼펙트한 월드에서는 어떻게 하는지, 놀 수 있다. 없다는 클래스파이 에스오억 노라고 하는 것입니다. 그런 태스크를 만들도록 하겠습니다. 완벽한 세상, 완전한 세상. 관측의 에러는 없습니다. 일관적이지 않은 관측도 없다고 하겠습니다. 날이 맑으면, 일관적인 행동이 있습니다. 데이터 중에 어떤 것이 가장 중요한지 임무를 돌아보도록 하겠습니다. 펑션 어프로시멩션을 어떻게 하면 좋을까? 현실감있게, 하무를 근접화하는 것입다. 훌륭한 에이아이 라고 할 수 있습니다. 인스턴스를 정의하겠습니다. 하나의 예를 들면, 4개의 인스턴스가 있습니다. 트레이닝 데이터 셋이 있습니다. 그리고 가설이 있습니다 오케.. 2018. 1. 22.
Motivation 머신러닝 기계학습, 많이 활성화된 이유가 데이터가 축적이 되었고, 공개되어 있고, 처리할 수 있는 능력이 생겼습니다. 보면 다양한 신문정보라던지 소셜 네트워크, 머신의 로그 데이터도 사용됩니다. 주가지수의 변동 스페셜 정보 이런것들도 많이 쓰이고 있습니다. 이런 정보들을 특성에 맞춰서 본다고 하면 텍스트, 네트워크, 타임 시리즈, 시계열 기반의 데이터가 있습니다. 이미지 데이터도 있습니다. 주가 지수, 마켓의 상태는 어떠한가, 번호판 자동으로 인식해서 문을 열어주는 시스템이 있습니다. 번호판을 인식하는 것 페이스북하거나 트위터하느 것들, 팔로우하면 좋을 것들, 추천되서 나오는 것들, 로봇들을 행동을 결정합니다. 헬리콥터가 날아가고 있을때, 인버티드 그런 행동들을 현실화가능합니다. 요약하고 정리하고 군집하.. 2018. 1. 22.
시간이 변하는 것을 예측해봅니다. 오픈때 가장 높을때 가장 낮을때 볼륨 닫힐떄, 날마다 이것을 타임 시리즈라고 할수가 있습니다. 이것을 가지고 예측을 하고 싶습니다. 이런 형태가 되겠습니다. 하루 전에 어떤 데이터 7일이전의 데이터를 넣고 내일의 가격은 어떻게 될 것인가 예측해보는 것입니다. 매니 투 원이 될 수 있습니다. 이런 형태의 예측., 오케이 하루전의 데이터르 가지고 하는 것보다 이전의 데이터가 어떻게 영향을 미친다 타임 시리즈의 가설입니다. 매니 투 원의 아이디어 입니다. 구체적으로 어떻게 넣을 것인가요. 자 이것을 알고 피은 것이 이것이다. 이전 데이터가 되겠습니다. 데이원 데이2가 되겠습니다. 여기서 하나씩 넣는 것입니다. 이렇게 이런식으로 넣어줍니다. 오케이요. 이렇게 한다음에 정작 알고싶은 값을 예측해봐라 이것입니다. .. 2018. 1. 18.
RNN 이 있습니다. 음성 인식이라던제 시퀀스 데이터가 입니다. 음성언어 자연어 이야기 하는 것이 이해하는 것인데, 이해하는 방법이 하나의 단어, 이것만 이해한다고 해서 전체 맥락을 이해하는 것이 아닙니다. 이전에 했던 단어들을 다 이 해한다음에 이해하는 것입니다. 이런것들이 바로 시퀀스 데이터가 되겠습니다. 기존에 있는 뉴럴 네트워크 컨볼루션 네트워크가 있으면 출력ㅇ으로 나타나는 간단한 형태이기 때문에 시리즈 형태의 이러한 형태의 불편했던 것입니다. 많은 사람들이 고민한 끝에 출력한 것이 이런형태의 네트워크가 되겠습니다. 시리즈 데이터를 이야기 할때 이전의 결과. ㅈ 이렇게 있을 때 계산할 수 있겠죠. 와이라고 할꼐요 계산할 수가 있는데, 여기에 현재 스테이트가 다음것에 영향을 미친다 이런식으로 그림을 미치는데 구현하면 됩.. 2018. 1. 18.
ConvNet활용의 예 전에 Conv 레이어 만들기 c몇 개의 값을 모을 수가 있을까요. 이것이 중요한 것입니다. 이 값들을 알아야 이 웨이트의 값을 알 수 있습니다. 설계를 할 수 있게 됩니다. 7곱하기 7이고 필터 3곱하기 3이라고 합니다. 이 점에서 한 값입니다. 5곱하기 5가 나옵니다. 오케이요. 똑같은 방법으로 밑으로 5번입니다. 아래로 출력이 5바이5 가 됩니다. 한칸씩 옆으로 움직이는데, 이 값을 스트라이드라고 합니다. 한칸씩 움직인다는 말입니다. 스타라이드가 2이면 2칸씩 움직입니다. 3바이3의 이미지로 아웃풋이 생겨나게 됩니다. 오케이요. 전반적으로 보게 되면 엔곱하기 엔이 입력이 있다고 했을때 에프라고 햇을때 총 몇개의 값이 몇칸 움직일번이가를 나눌까 하고 1을 하면 됩니다. 이미지가 7이고 필터가 3일떄 오케이요. 오케이요. 산수를 하.. 2018. 1. 18.
Weight 초기화를 잘해보도록 합시다. 4가지 문제중에 하나가 초기값을 멍청하게 넣었습니다. 이것입니다. 시그모이드는 안됩니다. 렐루를 사용합니다. 2번을 실행시켰는데 조금 달라집니다. 오케이요. 같은 코드를 실행시켜도 다른 결과가 나올 수 있습니다. 웨이트를 입력할 때, 랜덤값을 넣어줍니다. 랜덤값에 따라서 결과가 차이가 나는 것입니다. 체인룰이 있습니다. 초기값을 0으로 주자. 더블유 초기값을 넣었씁니다. 오케이요. 더블유가 체인률을 할때 이값이 0이 됩니다. 기울기가 0이 되죠. 초기값을 어떻게 잘 넣을 수 있을까요. 모든 값을 0으로 주면 안됩니다. 학습이 전혀 안됩니다. 딥 믿음 넷을 이해 어떻게 잘 학습시키는가. 여기에 사용한 것이 제한된 볼츠맨 머신입니다. RBM을 사용해서 초기화합니다. 2가지 오퍼레이션의 목적은 입력을 생산해내.. 2018. 1. 17.
Sigmoid 보다 ReLU 가 더 좋음 어느 값이 이상이면 액티베이션 함수라고 합니다. 이것을 구현하기 위해서 각각의 더블유 더블 1 2개에 웨이틀ㄹ 가지고 있습니다. 순자적으로 엑스를 받고 입력에 넣어주면 이단에 네트워크가 구성되는 것입니다. 3단 쉽습니다. 3단으로 3개의 웨이트를 주면 됩니다. 엑스 값이 2개이다 알 수 있습니다. 그 다음 단계에서 5개를 받아야 하고, 오케이요. 체인 하듯이 엑스 엘원 엘투를 만들어내고, 그 아므 레이어에 넣고 오케이요. 하나기 하나씩만들고하나씩 내어주면 됩니다. 그림으로 그려주면 이렇게 됩니다. 딥하고 와이드 하는 것에 대해서 알 수 있습니다. 인풋 레이어 라고 하고 마지막은 아웃풋 레이어라고 합니다. 그리고 이 안에 있는 것들은 보이지 않기 때문에 히든 레이어라고 합니다. 특별한 의미는 없습니다. 처.. 2018. 1. 17.
특별편 10분 안에 미분 정리하기요. 표현하는 방법 함수를 엑스로 미분한다는 뜻입니다. 이런 재밌게 생긴 식들이 나옵니다. 델타 엑스를 아주 작은 값으로 보낼 때, 에프의 더한것과 더하지 않은 것의 차이를 나눈다. 순간 변화율입니다. 순간 변화율 이라는 것입니다. 그렇기 때문에 에프를 함수라고 가정했을 때 이만큼의 변화율 미분이라는 것이 그래디언트 디센트 알고리즘에서 필수적이라는 것입니다. 복잡하니, 이것을 간단하게 델타 0.01 이라고 합시다. 이런 함수를 생각해보도록 하겠습니다. 플러스 엑스에 엑스 엑스입니다. 오케이요. 네네 똑같습니다. 델타 엑스를 가정하는 것입니다. 오케이요. 받아들인다는 것이 어떤것인지 잘 몰랐습니다만, 네네, 내가 얼마나 모르는지를 먼저 알아나가는 것이 중요합니다요. 이것은 오케이요. 편미분에 대해서 배우도록 하.. 2018. 1. 17.
Deep Neural Nets 인류이 꿈. 골치있는 문제를 기계를 만들즈아!!!! 우리의 뇌를 공부해서 오케이. 여러가지를 가지고 있는데, 뇌가 복잡하게 연결되어 있습니다. 연결된 부분을 자세하게 보았더니, 깜짝놀란 것은 뉴런이라고 불린 유닛이 너무나 단순하게 동작이 되더라. 어떻게 생각할 수 있을 것인가. 고민에 빠질 정도로 단순하게 동작이 되는 것입니다. 길이에 따라 신호의 양이 달라집니다. 어떤 웨이트의 곱이 되는 정보로 할 수 있습니다. 웨이트로 볼 수 있습니다. 다할 수 있습니다. 썸이 일어납니다. 그런다음에 통과가 되면 바이어스 항목이 더해져서 그다음으로 전달 되거나, 다 모여져 있는 값이 정해져있는 값 이상이 되면 활성화되고 그 값 이상이되지 않으면 활성화되지 않더라. 오 이런것들은 이런 형태의 뉴런은 기계적 수학적으로 .. 2018. 1. 17.