[DLD 2022] 정신차려 이 모델이 커져만 가는 각박한 세상 속에서 : ViT knowledge distillation 해보기 - 박정현
2022.10.27 - 2022.10.25
0
0
공유
0
공유

자꾸만 모델이 커져가는 딥러닝 트렌드 속에서 "미리 잘 학습된 큰 네트워크(Teacher network)의 지식을 실제로 사용하고자 하는 작은 네트워크(Student network) 에게 전달하는 방법"인 Knowledge Distillation에 대해 소개합니다.

💁 세미나 안내 

  • 날짜 : 2022년 10월 25일 화요일
  • 시간 : PM 8:00 ~ PM 8:50
  • 장소 : 온라인
  • 접속링크 :  실시간 라이브

🧑‍🏫 세미나 내용

  • 연계 케라스 예제 : Distilling Vision Transformers
  • 1차시 : Knowledge Distillation과 ViT, DeiT에 대한 설명
  • 2차시 : 튜토리얼 코드 같이 보기

🧑‍🚀 연사 소개

✍ 세미나 신청하기 

회원 가입 후 상단 [참여하기] 버튼을 클릭하시면 됩니다

✨ 주최/주관

  • 주최 : 대덕특구 SPACE-S
  • 주관 : 케라스 코리아 페이스북 그룹 운영진
  • 운영 : 따뜻한 메이커 연구소, 인공지능팩토리

🗓 DLD 2022 전체 프로그램 소개

본 세미나는 DLD 2022 프로그램 중 하나입니다. 아래 링크에서 전체 프로그램인 케라스 실용 예제 및 개발 가이드를 확인해주세요.

[DLD 2022] 케라스 실용 예제 및 개발 가이드 컨퍼런스

 

🖼 썸네일 프롬프트 소개

본 태스크의 썸네일은 케라스 마스코트인 유니콘과 우주인 조합으로 스테이블 디퓨전 모델을 통해 만들어졌습니다. 사용한 프롬프트는 아래와 같습니다.

a illustration of an astronaut riding a unicorn horse which has white horns, red hair and red tail by michael whelan and tomer hanuka, karol bak, full of details, by makoto shinkai and thomas kinkade, matte painting, trending on artstation and unreal engine