Machine Vision / ML / DL

  • 홈
  • 태그
  • 방명록

GraphModel 1

Transformer - Key, Query, Value

Query (Q): 질의(쿼리)는 주로 현재 디코더의 타임 스텝에 해당하는 정보를 포함하고 있습니다. 쿼리는 인코더의 모든 key와 비교되어 어텐션 스코어를 생성합니다. 이 스코어는 인코더의 어느 부분이 현재 디코더의 타임 스텝에 가장 관련이 있는지를 결정하는 데 사용됩니다. Key (K): 키는 인코더의 각 타임 스텝에 대한 정보를 포함하고 있습니다. 쿼리와 비교되어 어텐션 스코어를 생성하는 데 사용됩니다. 쿼리와 키의 유사도는 어텐션 스코어를 결정하는 데 중요한 역할을 합니다. Value (V): 값은 인코더의 각 타임스텝에 대한 실제 정보를 포함하고 있습니다. 어텐션 스코어와 함께 가중 평균을 구하는 데 사용되어, 가중된 합을 생성합니다. 최종적으로, 이 가중된 합은 디코더의 현재 타임스텝에 대한 ..

MLDL_정리/용어, 메모장 2023.11.03
이전
1
다음
더보기
프로필사진

Machine Vision / ML / DL

Machine Vision Deep Learning 개인 공부 목적

  • 분류 전체보기 (169)
    • Machine Vision (8)
      • 용어, 메모장 (7)
      • Sample (1)
    • Machine Learning (0)
      • Sample (0)
    • Deep Learning (33)
      • 혼공 머신 러닝 - 딥러닝 (15)
      • 밑바닥부터 시작하는 딥러닝 (14)
      • 논문 해석, 구현 (1)
      • Network (3)
    • Language - C# (16)
      • C#(OpencvSharp) (3)
      • C#(UI - WPF) (1)
      • C#(UI - WINFORM) (2)
      • C#(문법) (10)
    • Language - Python(Opencv) (48)
    • Cognex - VisionProTool (0)
    • 알고리즘 예제 (19)
      • C# (2)
      • C++ (0)
      • Python (17)
    • Opencv Image Processing (1)
    • MLDL_정리 (34)
      • Sample (10)
      • 용어, 메모장 (24)
    • GPU, CUDA (1)
    • Computer Science (8)
      • 대학원 기록 (7)
      • 선형대수학 + 기타 수학(이산,공학,확률과 통계).. (1)

Tag

코딩 테스트, Algorithm, 알고리즘, coding test, coding, Python, DL, c#, machine learning, codeup, Vision, 파이썬, 코딩, 딥러닝, Deep learning, Machine Vision, 코드업, deeplearning, opencv, ML,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2026/02   »
일 월 화 수 목 금 토
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28

방문자수Total

  • Today :
  • Yesterday :

Copyright © AXZ Corp. All rights reserved.

티스토리툴바