2020-08-01から1ヶ月間の記事一覧

speakerdeck.com

マイナンバーカード交付状況のExcelファイルをデータラングリング

csv変換時に小数点がおかしくなるので float_format="%.1f" で小数点一桁にするが、文字列扱いになるため quoting=csv.QUOTE_MINIMAL でダブルクォーテーションを外す import csv import datetime import pandas as pd def df_conv(df, col_name, col_1="人…

不審者マップ

qiita.com 愛媛県の不審者マップ https://imabari.github.io/fushinsha_map/ import pathlib import pandas as pd import requests import folium GEO_URL = "https://raw.githubusercontent.com/geolonia/japanese-addresses/master/data/latest.csv" def f…

Twitterフォロー外し

import tweepy import time consumer_key = '' consumer_secret = '' access_token = '' access_token_secret = '' auth = tweepy.OAuthHandler(consumer_key, consumer_secret) auth.set_access_token(access_token, access_token_secret) api = tweepy.API…

OCR Spaceで愛知県の検査陽性者の状況をスクレイピング

OCR SpaceのFree OCR APIを使って愛知県の検査陽性者の状況をスクレイピングする ocr.space keyはENVのOCR_SPACE_APIに入れる import os import re from urllib.parse import urljoin import requests from bs4 import BeautifulSoup ocr_api_key = os.envir…

www.kaggle.com

新潟県のコロナウイルス

# -*- coding: utf-8 -*- import datetime import pathlib import re from urllib.parse import urljoin import jaconv import pandas as pd import requests from bs4 import BeautifulSoup JST = datetime.timezone(datetime.timedelta(hours=+9)) dt_now …

岩手県 コロナ情報検 検査件数・検査の陽性率を作成

import datetime import re import pandas as pd JST = datetime.timezone(datetime.timedelta(hours=+9)) dt_now = datetime.datetime.now(JST) title = [ "PCR検査 行政検査件数", "PCR検査 民間検査件数", "PCR検査 実施数", "PCR検査 陽性者数", "PCR検…

愛知県内の感染者・検査件数

import datetime import pathlib import re import pandas as pd def str2date(s): y = datetime.date.today().year m, d = map(int, re.findall("\d{1,2}", s.split("~")[-1].strip())) return pd.Timestamp(y, m, d) df = pd.read_html("https://www.pref…

愛知県の新型コロナウイルス感染症患者の発生について(日報)をスクレイピング

下記はPDFからテキスト読み取れない 画像? 2020-07-26 https://www.pref.aichi.jp/uploaded/attachment/341590.pdf 2020-07-30 https://www.pref.aichi.jp/uploaded/attachment/342171.pdf コード import datetime import re import time from urllib.parse…

Pythonを利用したデータ解析入門

http://ichiilab.weebly.com/uploads/1/0/9/1/109128265/up_python_obsdataanalysis_2017_jpn.pdf

PDFファイルにページ番号を追加する方法

qiita.com

愛媛県の食中毒の発生情報をスクレイピング

import pandas as pd import requests from bs4 import BeautifulSoup url = "https://www.pref.ehime.jp/h25300/4793/shokuchuudoku/hassei.html" headers = { "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64; Trident/7.0; rv:11.0) like Gecko" } r…

PythonでCJK部首/康熙部首を置換

CJK部首/康熙部首の範囲外の「戶黑」は追加 8/3 23:50 複数該当する部首を一部除外していましたので分解して追加しました tbl = str.maketrans( "⺃⺅⺉⺋⺎⺏⺐⺒⺓⺔⺖⺘⺙⺛⺟⺠⺡⺢⺣⺦⺨⺫⺬⺭⺱⺲⺹⺾⻁⻂⻃⻄⻍⻏⻑⻒⻖⻘⻟⻤⻨⻩⻫⻭⻯⻲⼀⼁⼂⼃⼄…

PDF cmap

ja.wikipedia.org github.com https://www.adobe.com/content/dam/acom/en/devnet/font/pdfs/5078.Adobe-Japan1-6.pdf !wget https://github.com/pdfminer/pdfminer.six/archive/develop.zip !unzip develop.zip !cd pdfminer.six-develop/ cid2code_Adobe_J…

全国地方公共団体コードに郵便番号データの住所から郡名を追加

docs.google.com import copy import re import pandas as pd def checkdigit(n): c = copy.deepcopy(n) t = 0 for i in range(2, 7): c, m = divmod(c, 10) t += i * m result = (n * 10) + ((11 - (t % 11)) % 10) return result # 全国地方公共団体コード…