SSブログ

Plone Conference 2018 Talks Day2 [Python]

日本で行われた Plone Conference 2018 に参加した。
国際カンファレンスなんて色々ハードル高くて無理!と思っていたが、terapyon のおかげで出られた。ありがとう。

- トレーニング2日
- トーク3日
- スプリント2日

のうちトークの 1.5日(2日目と3日目の午前)だけ出られた .

分かっていたことではあるが、しみじみ
「英語、何喋ってるか全然わからんなー」
と思った。
他の日本人は、みんな英語できて偉いなーと思う。偉いなーとは思うが、自分は生い先短いのし、英会話はあきらめた。
ただ、リスニングに比べたら読むのは大分マシなようで言っていることに比べるとスライドに書いてあるは大分わかった。
英語の読み書きはもうちょいできるように頑張りたい。

Jim Fulton のトークは、スライドに説明の記載があって ZODB がツリー形式のオブジェクトデーターベースだ、ということも知っていたので何の発表かはわかった。
http://jimfulton.info/talks/plone-2018

10年前に、Jim Fulton のキーノートセッションを僕が直接聞くことがあるなんて想像できなかった。
Jim Fulton は昔と変わらず新しいことにチャレンジしているようで、Jim Fulton が genvet, async wait, react という言葉が出るとは思わなかった。
ちなみに、react の話題が多かった。

Python3 で動くようになるようだし、しばらくしたら Plone をインストールして久しぶりにちょっと動かして見ようかな、と思った。
コメント(0) 
共通テーマ:日記・雑感

Django のデーターベースルーター [Python]

複数のデーターベースの接続先を設定して、

Article.objects.using('smapdb').filter(条件...)

というように、 using() をつけると指定のデーターベースへの QuerySet が取得できる。

モデル毎にアクセスするデータベースを切り替えたいというときには、データーベースルーターというのを使えいいらしいというのは聞いていたが、必要になって調べてみると、(また)tokibito さんが以前書いていた。ありがたやありがたや。

https://tokibito.hatenablog.com/entry/20160202/1454344534

ただ、試してみるとコードがちょっとおかしい。
allow_relation() と allow_migrate() で、myapp でないときの処理が足りないようだ。
また、 db_for_read() と db_for_write() は間違ってはいないけど、 if 文の条件に合わない場合に None をかえしているのがわかりにくい

MyAppRouter を以下のようにしたら、意図した結果になった。

class MyAppRouter:
    def db_for_read(self, model, **hints):
        if model._meta.app_label == 'myapp':
            return 'smapdb'
        return None
    def db_for_write(self, model, **hints):
        if model._meta.app_label == 'myapp':
            return 'spamdb'
        return None

    def allow_relation(self, obj1, obj2, **hints):
        if (obj1._meta.app_label == 'myapp' and
           obj2._meta.app_label == 'myapp'):
           return True
        elif (obj1._meta.app_label != 'myapp' or
           obj2._meta.app_label != 'myapp'):
           return True
        return False

    def allow_migrate(self, db, app_label, model=None, **hints):
        if app_label == 'myapp':
            return db == 'smapdb'
        else:
            return db != 'smapdb'

コメント(0) 
共通テーマ:日記・雑感

pycrypto から pycryptodome へ [Python]

Python には、PyCrytpo という暗号/復号ライブラリーがあって、便利なんだけど、もう5年も更新されてない死んだプロジェクトになってしまっていた。

これ、どうしたもんかなーと思ってたんだけど、手元の Ubuntu にインストールするにはあんまり困らないもんだから
「ま、いいか」
と思ってたんだけど、他に代わりになるものがないか調べたら今は pycryptodome というのがあった

https://pypi.org/project/pycryptodome/

PIL に対する Pillow や mysql-python に対するmysqlclient のように、 pycrypto から fork して別の名前で pypi に登録してくれているようなのだが、(・・・なので、使い方は基本的には pycrypto と同じ。バージョンが上がって削除されたメソッドもあるようなんだけど、使いそうなのは大丈夫っぽい)
なんといっても、Windows や osx の wheel が用意されているのがありがたい。

(追記)
別系統で、 cryptography というのがあるらしい
https://github.com/pyca/cryptography
これも、メンテナンスが継続されていてよさそう
コメント(0) 
共通テーマ:日記・雑感

DjangoCongress 2018 [Python]

昨日行われた DjangoCongress 2018 の Day 1 にSpeaker として参加してきた

https://djangocongress.jp/

人前で緊張するということはないけれども、
- 発表自体が尺に会うか(ものすごく時間が余ったり、時間が足りなくて話したいことが話せないのではないか)
- トラブルで画面に出せなかったりネットワークが使えなくて発表が台無しにならないか
が気になって、45分のトークは緊張した。

発表内容はこれ https://gist.github.com/nakagami/098db7387d78ab9c6aa85d77a0eeecf5

後半は駆け足になってしまったが、それも尺が余った場合に丁寧に話そうと思って用意していたものなので、自分的には満足のいく発表ができた。
内容は、 PyCon JP の CfP では通らないようなニッチな内容だったので、発表する機会が与えられて良かった。
終わったら、どっと疲れが出て、俺ってこの発表がこんなに重荷になってたんだなぁって自分で驚いた。

他の人のトークも、雑なアニメコラージュでうけ狙いみたいなのがなくて良かった。
みな「内容は雑でたいしたことないけど、有名人だから」みたいな発表ではなかった。そういう CfP があったのかどうか知らないけど。

自分のもほかの人のも、トーク中に聞いている人が twitter にハッシュタグ #djangocongress 付きで投稿してくれている人が多くいてよかった。トークの様子もわかるし、盛り上がっている感じも伝わるし。

なにより良かったのは、スタッフの人たちが終わったときに口々に「良かった」と表明していたことだった。
ボランタリーで無報酬でやって、達成感はあるものの自分の聞きたいトークも聞けなくて燃え尽きて終わってしまう→イベントが開催されないとなったら残念なので。

結局、100人という規模で食事とかノベルティとかいろいろしないで運営の負担が少なかったのが良かったと思う。
もしよかったら来年もできる範囲で開催されるといいなぁ、と思う。

コメント(0) 
共通テーマ:日記・雑感

Windows + Python 3.6 の msys2 + minitty で utf-8 [Python]

気が付いたら、Python3.6 では、Windows で、コマンドプロンプトとファイルシステム(フォルダー名、ファイル名)のデフォルトの encoding が utf-8になってた

https://www.python.org/dev/peps/pep-0528/
https://www.python.org/dev/peps/pep-0529/

以下のようなーコードで
import sys
print(sys.stdin.encoding)
print(sys.stdout.encoding)
print(sys.stderr.encoding)

print('あいうえお')
コマンドプロンプト上で
utf-8
utf-8
utf-8
あいうえお
こんな感じになった。

すばらしい

しかし自分が普段使っている Git for Windows (Msys2) + mintty で、
上記と同じWindows にインストールした python3.6 で実行すると
cp932
cp932
cp932
▒▒▒▒▒▒▒▒▒▒

となってしまう。

・・・結局、環境変数に

export PYTHONIOENCODING=utf-8

を設定したらutf-8 でうまく表示できた。

まだ、minitty で interactive shell が動かないんだけど、コマンドプロンプトでは interactive shell ちゃんと動くし自分の Windows 環境がだいぶ良くなった。

コメント(0) 
共通テーマ:日記・雑感

Python Boot Camp in 柏の葉 [Python]

故郷愛知 http://nakagami.blog.so-net.ne.jp/2017-07-29-1 に続いて、26年間暮らす千葉(の柏の葉)で開催された Python Boot Camp in 柏の葉に TA として参加した
https://pyconjp.connpass.com/event/81251/

このイベントの TA は
「なんか、うまく動きませーん」
と質問されたときに、

- python3 のつもりで 2.7 が動いてた
- pip install を sudo 付きで実行してた
- エディターをインストールしてない

と、トラブルのバリエーションが多くて、それを限られた時間で解決しないといけないので緊張する。


愛知の時は、環境が動かせなくて、ほぼ座学になってしまった人がいたが、今回は、まったく Python が動かせなかった人はいないようだった。ほっとした。

ハンズオン中に受講者の人が
「これは、ひとりではできないよなぁ」
ってぼそっと言ってた。

最初の一歩の手助けができて、このうちの何割かでもプログラマー仲間になってくれるとうれしい。

柏の葉キャンパスは、都会で学際都市で ITベンチャーがいっぱいあって産学共同で、その象徴が KOIL ・・・っていうイメージだったけど、話を聞くと、あくまでも千葉(田舎)で、新宿、渋谷とは差があるんだなぁという感じだった。
KOIL の中はきれいでおしゃれだったけど。
東京にはイベントがあって、いざとなれば東京に行けばいいじゃん、って思うけど、心理的なハードルがあるようで、今回柏であるから来ましたっていう人が多かった印象。
千葉開催が決まったときに 「柏?都会じゃん」と思ったけど、マインドは田舎だった。
僕が何かの助けになればよかった。

コメント(0) 
共通テーマ:日記・雑感

Python で日本語文章要約 [Python]

最近、諸般の事情により、
「自然言語処理でなんか面白いことできないかなー」
って調べてて
「そういえば以前に、どっかの大学院生が日本語要約を python でやっててソースを公開してたな」
ってことを思い出して探したんだけど・・・
https://recruit-tech.co.jp/blog/2015/10/30/summpy-released/
↑これだった。
公開した直後以降はソースコードの更新は行われず、python2.7 でしか動かないようだった。残念、というかもったいない。Python2.7 でしか動かないものは、今後使われなくなってしまう。

MIT ライセンスなので、結果のよさそうな LexRank アルゴリズムのエッセンスの部分を1ファイル(1モジュール)に抽出して Python3 で動かせるようにして gist に貼っておきます。
https://gist.github.com/nakagami/92c0904ac9c1a98ee4ff8d8fb644fd69
正直、アルゴリズムの数学的な意味などさっぱり分かっていないけど・・・

自然言語処理研究者でない人(例えば自分)向けの LexRank による要約についての
ざっくりとした日本語解説は、これが比較的わかりやすいかと思います
https://qiita.com/takumi_TKHS/items/4a56ac151c60da8bde4b

jabstract.py をダウンロードして
import jabstract
text = '複数の文がある、ながーい文章'
sentences = jabstract.summarize(text, sent_limit=10)
print(sentences)

という感じで要約できるんだけど、ちゃんと動いてるかな?
必要なパッケージとか、関数のパラメーターとか、詳しくはソースコード読んでください。

コメント(0) 
共通テーマ:日記・雑感

PostgreSQL とpython(pytz) のタイムゾーン [Python]

(自分用メモ)

http://blog.untrod.com/2016/08/actually-understanding-timezones-in-postgresql.html

- PostgreSQL は日付、時刻のデータ型に、タイムゾーンを持てるものと持てないものがある
- カラムの定義で with time zone か without time zone かを指定する
- システムテーブル pg_timezone_names にタイムゾーン名称と offset を持っている

http://en.proft.me/2014/11/2/examples-pytz-python/

- python の datetime も timezone の指定ができる
- タイムゾーンデーターベースは python にはないので pytz を使う
- pytz でタイムゾーン名称から tzinfo を生成できる


pytz は定期的にリリースされている
いろいろな都合で時差は変わっちゃうけど PostgreSQL は政治的な都合で時差が変更になるのはキャッチアップできないよな。
サマータイムは対応できてるのかな?

コメント(0) 
共通テーマ:日記・雑感

micropython から PostgreSQL に接続する micropg [Python]

この記事は MicroPython Advent Calendar 2017 https://qiita.com/advent-calendar/2017/micropython の7日目の記事です。

PostgreSQL とクライアントがネットワークを介してやりとりするデータは割と簡単で、習作としてpure python のデーターベースドライバを書きました。
https://github.com/nakagami/minipg

書いてみて、micropython で動くようにできるのでは?と、この minipg を改造して micropython で動作するようにしたのが https://github.com/nakagami/micropg です。

upip で
import upip
upip.install('micropg')

などでインストールすると

例 にあるように接続できる
https://github.com/nakagami/micropg#example

・・・はずなんですが、自分は Linux 上のmicropython でしか動かしてないので、マイコンボードでの動作を確認していません。
内部では、usocket と ubinascii しか使っていないので、動作しそうではあるんですが、マイコンでの動作確認をしてもらえると嬉しいです。

中身は、1ファイルだけ https://github.com/nakagami/micropg/blob/master/micropg.py のモジュールなので、このファイルを import できる場所に配置してもよいです。

コメント(0) 
共通テーマ:日記・雑感

Django CyMysql backend の Django 2.0 対応 [Python]

この記事はDjango Advent Calendar 2017 https://qiita.com/advent-calendar/2017/django の4日目の記事です。

Python の mysql 用データーベースドライバーってたくさんあるのですが、CyMySQL https://github.com/nakagami/CyMySQL も、そんな(マイナーな)ドライバーのひとつです。

PyMySQL https://github.com/PyMySQL から fork したもので、Cython がインストールされていれば速く、インストールされていなくても pure python で、それなりに動く、というものです。

Django に対する、CyMySQL 用のデーターベースバックエンドもリリースしていたのですが、Django 2.0 のリリースにともなって、 Django 2.0 用の CyMySQL 用のデーターベースバックエンドをリリースしました。

https://pypi.python.org/pypi/django-cymysql/2.0.0

pip install cymysql django-cymysql で、cymysql と django-cymysql をインストールして、settings.py の DATABASE の ENGINE に django.db.backends.mysql の代わりに mysql_cymysql と入力すると使えます。

django.db.backends.mysql + mysqlclient と比べて機能面で良いところというのはないんですが、
「なんかよくわからないけど mysqlclient のインストールがうまくいかないので django.db.backends.mysql が使えない」
「ビルドするためのコンパイラや libmysqlclient-dev をインストールしたくない」
という人に使ってみてもらえると嬉しいです。


ちなみに、今までは、
import pymysql
pymysql.install_as_MySQLdb()

という処理を初期化時に一回呼ぶと、Django で PyMySQL が使えるという技があったんですが、
https://stackoverflow.com/questions/34777755/how-to-config-django-using-pymysql-as-driver
Django 2.0 のコードの中で mysqlclient のバージョンを判定しているところが入ってしまったので、ソースコードそのままでは動かなくなりました。
(いやいや、その判定いらんやろ)
それで、PyMySQL のバージョン番号がちっちゃすぎるからなんとかしようぜという Issue が、PyMySQL のプロジェクトに上がってて、 https://github.com/PyMySQL/PyMySQL/issues/610
・・・え、そっち?直すなら Django でしょ?という気持ちでいっぱいです。

コメント(0) 
共通テーマ:日記・雑感