기본 콘텐츠로 건너뛰기

2022의 게시물 표시

pyenv, pyenv-virtualenv & python & poetry

pyenv, pyenv-virtualenv & python & poetry 이 부분 수정 1. pyenv & python 설치 $ brew install pyenv $ pyenv install --list $ pyenv install 3.11.1 $ pyenv global 3.11.x $ pyenv local 3.11.x 이 부분 수정 2. pyenv-virtualenv & 가상환경 만들기 $ brew install pyenv-virtualenv ... installing.... $ vi ~/.zshrc -- 아래 추가 : 이미 있을 수 있음 -- # pyenv command eval "$(pyenv init -)" # pyenv-virtualenv command eval "$(pyenv virtualenv-init -)" $ source ~/.zshrc # create virtual environment $ pyenv virtualenv PYTHON-VERSION ENVIRONMENT-NAME # check available virtual environments in local $ pyenv virtualenvs # delete VIRTUAL ENVIRONMENT $ pyenv uninstall ENVIRONMENT-NAME # activate virtual environment $ pyenv activate ENVIRONMENT-NAME # GET OUT OF VIRTUAL ENVIRONMENT $ pyenv deactivate 이 부분 수정 3. python 필수 라이브러리 가상환경을 활성화 하고 하면 된다. 패키지는 가상환경에만 적용된다. # install and upgrade pip $ python3 -m pip install --upgrade pip 혹은 $ pip install --upgrade pip # check available packages $ pip l...

quasar + vite + vue + typescript

  quasar + vite + vue + typescript <Mac> 1. 사전 작업 pyenv + virtualenv + poetry 설치 python 3.11.1 설치 virtualenv로 가상환경 생성 py3.11.1 2. 환경 $ pyenv activate py3.11.1 $ yarn global add @quasar/cli $ npm install -g @vue/cli $ mkdir -p ~/myprj/quasar && cd $_ * vue3js + vite + quasar + typescript 로 프로젝트가 만들어짐 $ yarn create vite my-vue-app --template vue * 실행 $ vite dev VITE v4.0.2 ready in 377 ms ➜ Local: http://localhost:5173/ ➜ Network: use --host to expose ➜ press h to show help 결과 <브라우저에서 확인> 삭제

KoBERT를 이용한 감성분석

1. 준비 사항  - 고객센터로 걸려오는 전화<음성>이 STT를 통해 텍스트로 저장되어야 한다.  - 카카오 톡이나 게시판을 통해서 들어온 텍스트가 필요 2. 감성 분석 Flow   - 한글을 음절 단위로 자르기 위한 말뭉치   - 한글 말뭉치를 어휘 단위로 잘라서 vocab 파일 생성   - 라벨링<문장이 긍정, 부정, 중립>된 정답 데이터      ==>  이게 제일 구하기 어려움. 각 산업에 맞는 데이터로 해야함.    - 학습한 후 모델은 .h5 형태로 저장하고 예측 실행시 .h5를 불러온다.      (학습 -> 모델 생성 과  모델 로딩 -> 예측 이렇게 분리해야 됨) kobert pretrained model을 이용한 감성분석 평가 데이터 수: train(53건), test(23건) 모델 평가: * 예측  3. 어려운 점    * STT로 들어온 텍스트가 잘 맞지 않음. 주소에서 숫자를 부르면 2 인지 "이"인지 잘 구분이 안됨    * 음성의 품질이 좋지 않음.  4. 테스트 코드 <일부>  # ============================================================================= # 모델 평가 # ============================================================================= # 훈련 모델의 예측 성능을 F1 SCORE로 체크하기 위한 작업 def predict_convert_data( data_df ): global tokenizer tokens, masks, segments = [], [], [] for i in tqdm(range(len(data_df)))...

[주소] 행안부 오픈 API 좌표 -> 경,위도 좌표 변환

주소를 경,위도 좌표로 변환해야 할 때가 있다.  지도위에 위치 마커를 출력할 때, 검색된 위치에 마커를 표시할 때.... #GPS #위치정보 #Redshift #행안부 #오픈API #OpenAPI   행안부 오픈 API 좌표 -> 경,위도 좌표 변환 https://juso.go.kr/addrlink/devCenterEventBoardDetail.do?regSn=712&noticeType=T&currentPage=1&keyword=&searchType= https://52gram.tistory.com/entry/%EC%9C%84%EB%8F%84-%EA%B2%BD%EB%8F%84-%EC%9C%84%EC%B9%98%EC%B0%BE%EA%B8%B0-%EC%A2%8C%ED%91%9C-%EB%B3%80%ED%99%98 1. web에서 전환하는 방법 proj4.defs["EPSG:5179"] 〓 "+proj〓tmerc +lat_0〓38 +lon_0〓127.5 +k〓0.9996 +x_0〓1000000 +y_0〓2000000 +ellps〓GRS80 +units〓m +no_defs";//제공되는 좌표 var grs80 〓 proj4.Proj(proj4.defs["EPSG:5179"]) var wgs84 〓 proj4.Proj(proj4.defs["EPSG:4326"]); //경위도 var p 〓 proj4.Point( 945959.0381341814 , 1953851.7348996028 );//한국지역정보개발원 좌표 p 〓 proj4.transform( grs80, wgs84, p); d0cument .write(p.x + " " + p.y); //출력결과 wgs84 : 126.88793748501445 37.582468731587305 2. java application에서 전환하는 방법 double x 〓 Double.parseDo...

VueJS 개발 환경 구축 (feat. MacOS)

왜? VueJS를 선택했나? --------------------------------- vuejs 는 이젠 많은 회사들이 도입해서 사용하고 있습니다..  리액트는 프로젝트에 많은 사람이 필요하고, vuejs 는 개발자가 별로 없을때 사용하면 좋을 듯합니다.  그런데 vuejs 3이 릴리즈 되면서 많은 환경의 변화가 있었습니다. 그래서 어떻게 선택해야 할까? 정리해봤습니다. 계속 변해서 업데이트 ....

Kafka 를 zookeeper 없이 사용하기

Apache Kafka, ZooKeeper 의존성을 제거 4P by xguru 2020-05-18 - 주키퍼를 외부의 메타데이터 저장소로 사용하기 때문에 중복, 비효율성, 확장성 제한등의 문제가 발생 - KIP-500 : "Kafka on Kafka" ㅤ→ Kafka 내부에서 직접 메타데이터를 관리하여 파티션에 저장 ㅤ→ 메타데이터를 로그로 취급 ㅤ→ 토픽 작성/삭제 속도 향상 : 주키퍼랑 다르게 메타데이터 파티션에 새 토픽 작성하는 O(1) 오퍼레이션으로 끝나기 때문 ㅤ→ 단일 클러스터가 백만개 이상의 파티션을 지원 가능 - 로드맵 ㅤ→ 주키퍼와 직접 통신하는 관리도구들이 아직 있음. 이를 대체할 API를 제공 예정 ㅤ→ 메타데이터 파티션과 컨트롤러 간의 의존성이 생기기 때문에 KIP-595 에서 Raft 프로토콜로 Self-managed metadata quorum 구현 예정 ㅤ→ 주키퍼 없이 Kafka를 실행하는 KIP-500 모드 : 처음엔 전체 지원이 불완전 하므로 레거시모드로 주키퍼를 같이 사용할 예정 ㅤ→ KIP-500은 "Bridge Release". 주키퍼 지원이 완전히 사라질 KIP-500이후 버전에서 다운타임 없이 이전할수 있도록 준비하는 중간 업그레이드. 진짜로 주키퍼 없는 버전으로 다시 한번 업그레이드 할수 있도록 지원 Apache Kafka 2.8 - ZooKeeper 제거 업데이트(KIP-500) 및 최신 기능 개요 Apache Kafka 2.8이 출시되었습니다! 이 릴리스에는 오랫동안 기다려온 KIP-500에 캡슐화된 ZooKeeper 제거에 대한 조기 액세스와 Describe Cluster API 추가, SASL_SSL 리스너에 대한 상호 TLS 인증 지원, Kafka Connect의 노출된 작업 구성을 비롯한 기타 주요 업데이트가 포함됩니다. REST API, TopologyTestDriver에 대한 속성 인수 제거, Kafka Streams 특정 잡히지 않은 예외 처리기 도입, Streams...

Airflow 설치 및 설정 (feat. 문제해결)

0. 준비<필요한 것> python conda 가상환경 arflow postgreSQL Redis 1. 시스템 사용자 생성 Airflow 전용의 새로운 사용자를 생성한다. ]# adduser airflow # 사용자 생성 ]# passwd airflow # 비밀번호 설정 ]# usermod -g cncity airflow # primary group 변경 (cncity) ]# usermod -aG wheel airflow # secondary group 추가 (wheel) ]# id airflow uid=2003(airflow) gid=2000(cncity) groups=2000(cncity),10(wheel) 2. Airflow 사전 설정 2-1. Meta Database 구성 PostgreSQL으로 Airflow Meta Database를 구성한다. # postgres 계정으로 실행 -- 사용자 생성 create user airflowuser with encrypted password ' ##airflowuser_94RMJM ' ; -- Database 생성 create database airflow_celery owner postgres encoding ' utf-8 ' lc_collate ' C ' lc_ctype ' ko_KR.UTF-8 ' template ' template0 ' ; -- 사용자에 데이터베이스 전제 권한 부여 grant all privileges on database airflow_celery to airflowuser; # airflowuser 계정으로 실행 -- 스키마 생성 create schema airflow; Airflow Meta Database sql_alchemy_conn = " postgresql+psycopg2://airflowuser!:##airflowuser_94RMJM@c...

기술 검색 사이트

구분 제목 기관명 내용 주소 통계 등 기술검색 ETRI_기술이전홈페이지 정보통신연구원 기술이전홈페이지 https://itec.etri.re.kr/itec/main/index.do 통계 등 기술검색 K.MAPS_지능형 산업.시장 분석시스템 정보통신산업진흥원 지능형 산업.시장 분석 / 검색 http://kmaps.kisti.re.kr/login/login.do 통계 등 기술검색 DATA_공공데이터포털 행정안전부 공공데이터 검색 https://www.data.go.kr/ 통계 등 기술검색 SCOENCE ON 한국과학기술정보연구원 지식인프라 검색 https://scienceon.kisti.re.kr/main/mainForm.do 통계 등 기술검색 KiPRIS_특허정보넷 특허청, 한국특허정보원 특허정보 검색 http://www.kipris.or.kr/khome/main.jsp 통계 등 기술검색 빅카인즈 뉴스 뉴스통계 검색 https://www.bigkinds.or.kr/ 통계 등 기술검색 KOSIS_국가통계포털 통계청 국가 통계 검색 https://kosis.kr/index/index.do 통계 등 기술검색 ReBook_산업경제리서치 유료 산업경제 리서치 유료서비스 https://rebook.kr/main/index?setMode=pc 통계 등 기술검색 중소기업 기술로드맵 중소기업기술정보진흥원 산업별 국가정책 로드맵 http://smroadmap.smtech.go.kr/ 통계 등 기술검색 DBpia 유료 논문 등 기술검색 유료서비스 https://www.dbpia.co.kr/ R&D 지원 ITEC_산업기술 R&D정보포털 한국산업기술평과원 산업기술 관련 R&D 기획/평가/관리 https://itech.keit.re.kr/index.do#00010000 R&D 지원 IITP_사업관리시스템  EZOne 정보통신기획평가원 정보통신 관련 R&D 기획/평가/관리 https://ezone.iitp.kr/main/main R...