kogane – nibuiroフラグメント β

All posts by kogane

After dependency parsing

係り受け解析器にはCoreNLP, spaCy, GiNZAいろいろありますね. 例えば, BoW, n-gram, TF-IDF, えと, co-expression, LDA, Glove, なんかは定義が情報の特徴を表していますが…というか係り受け解析器はこれらと違って集合の特徴を与えるものではなくて文単位のの生データにアノテーションを加えるものですね?

そこでふと, 係り受け解析してそのあとは?


結論, 係り受け解析はきっと君を助けてくれる.
話題がそれますがgayouさんのブックマークがとても参考になる.
https://b.hatena.ne.jp/gayou/%E8%87%AA%E7%84%B6%E8%A8%80%E8%AA%9E%E5%87%A6%E7%90%86/

追記:
話は逸れますが, 文脈によって意味が異なるbank(銀行, 土手)のような単語を識別したい場合はELMo.

Solved: ERROR conda.core.link:_execute(700)

今思えば--freeze-installedでよかった…
発生要因は軽い気持ちの P I P .


spaCyのインストールをしようとしましたら.

で突き返されました.

何をしてもダメ.
がしかし, 何をしてもダメなことはない.
そんなにソイツが目障りなら認識から外してしまえばいい.

${CONDA_PREFIX}/conda-meta/<package-name-and-version>-<hash>.json

管理しているパッケージの情報はここにあるとのこと. 削除します.

完璧. 念のため--force-reinstallオプションをつけましたがいらないかもしれません.

Dark side of Boost C++

話自体は2年前なのですが, 重み付きサンプラーを探していましてね?Boost C++に入門するかーと.

https://www.boost.org/doc/libs/1_71_0/boost/compute/random/discrete_distribution.hpp

あ, ダメなやつ. と.


修正されていると思ったのですがね… Current Release “August 19th, 2019 15:31 GMT”
Boostに頼る前に標準ライブラリを使いこなしているのかと.
利用者にあの大きなライブラリをインストールさせて申し訳ないと思わないのですか?

Boost C++は爆速アルゴリズム集ではない

Neo4j on jupyter notebook

統合的な環境が欲しくなりNeo4jのwebインターフェイスをiframeでjupyter notebookに埋め込もうと試みましたがブロックされた.
その理由は,

  • Content-Security-Policy: frame-ancestors ‘none’
  • X-Frame-Options: DENY

の二つが有効になっているため.とのこと.

ですがNeo4jはあの忌々しいjavaで記述されていますので綺麗にデコンパイル可能なはずです.

iframeでNeo4j

  1. Download
    • 7zip
    • Javinder
    • jbe(Java Bytecode Editor)
  2. Javinderを用いて上記二つのエントリを検索する.
  3. 7zipでjarを開き該当ファイルを抽出, 削除する.
  4. 抽出したファイルをjbeで開き該当エントリを削除する(操作が即時に反映されますのでご注意ください.).
  5. 修正したファイルを7zipを用いてjarに書き込む.

iframeでアクセス可能になりました.

機械学習とAGIと漁夫の利

18Mar2019: きっとテンション高かったのですよ、えぇ。


Google, Facebook, MIT は果たして、AGIを実現しうるでしょうか。


AGIへの礎の様な匂いを醸し出す論文

Date Organization Title
15 Oct 2014 (v1) Facebook AI Research Memory Networks
6 Nov 2016 (v1) DeepMind Learning to Perform Physics Experiments via Deep Reinforcement Learning
2 Dec 2016 (v1) DeepMind Overcoming catastrophic forgetting in neural networks
20 Mar 2017 OpenAI Domain Randomization for Transferring Deep Neural Networks from Simulation to the Real World
21 Mar 2017 (v1) OpenAI One-Shot Imitation Learning
5 Jun 2017 DeepMind A simple neural network module for relational reasoning
22 Jun 2018 (v1) MIT Dense Object Nets: Learning Dense Visual Object Descriptors By and For Robotic Manipulation
12 Sep 2018 DeepMind Multi-task Deep Reinforcement Learning with PopArt
6 Nov 2018 OpenAI Concept Learning with Energy-Based Models
16 Nov 2018 (v1) Google AI Grasp2Vec: Learning Object Representations from Self-Supervised Grasping](https://arxiv.org/abs/1811.06964)

 安直に機械学習陣営の狙いを考え「行動主義かよ( ´∀` )」と思ってしまったものです。ですが、Googleともあろう企業とその陣営の方針がそんな訳ないでしょう。企業であるからして売り物として使えるものを研究開発することが第一目標である筈です。その過程で、彼らは恐らく「数学によって記述可能な事象」を開拓しているのではないかと思えます。そうしておけば来るべき思考の「原理」が解かれた時、それらの記述知識は間違いなく役に立つでしょう。つまり彼らは現在、前提としてヒトの思考原理は不可侵領域であるとして虎視眈々とそれが解かれるときに備えているのでは、と考えます(笑)。陰謀論乙、ですね。

 成果を求められているのですよ、彼らは。
 ニュース読むより論文漁るほうがいい夢見れますよっ。

さて、DAWを始めよう。

オークションで購入したA-800 PROが泣いていたので大切な時期だがDAWを始めようと思う。いや、大切な時期だからこそ容易に感情の発露が可能な環境が必要だろう。
え?「集中しろ」って?
…キコエナイ、よ?


以下、無償のVSTプラグイン紹介


音楽理論を学ばずにどこまでいけるか、挑戦だ。

早速イントロ、リードに詰まった。
…何も参考にせず作曲できる天才だなんて思っちゃいない。なにもしなかった。オーケー?
まずは、いつものように「解析」から始めよう。

  • 民族楽器+EDM
  • 民族楽器(笛)っぽいシンセ+X
  • びよよんベース+びよよんシンセ

どうしたもんかねぇ…


Search words:
free virtual guitar instrument
free electric guitar vst
bigcat instruments

[WIN]コマンド備忘録

  • ショートカットの名称を変更

元に戻す

  • ping回し
    arp -aでひっかからない場合に使用しています。

研究の役に立つ?な記事~所謂メモ~


Q. jupyter notebookの幅ってどうにかならないの?
A.

または~/.jupyter/custom/custom.css

と追記.
こんなのもある。あなたの生産性を向上させるJupyter notebook Tips


Q. PytorchのDataloaderがメンドイ.
A. 「PyTorch-Ignite」とか「skorch」を使いなされ.


Q. めちゃんこ速い近傍探索ライブラリない?
A. Faiss


Q. PCAしたのに外れ値のせいで…
A. Robust PCA


Q. 論文やべぇ.
A.

2018 深層学習系deポイント高い寄せ集め

2018年終わりですね~.
 一年通してDNNによる音声合成開発の成果が多く発表された年ではないですか?音楽系で言えば, UNetによる音源分離でしたり, Transformerによるピアノソロ生成でしたり, 精度上がりましたよね~.
 分野開拓?的にはGraphConvの研究が進んでいます. そして, 応用による化学分野への適用. 世界は加速しイイ感じに加速していますね♪
 あとはー, 情報, チュートリアルが随分と豊富になっていますねー. んでんで, ソフトウェアへの組み込み, エッジコンピューティングへの適用なども進んでいますよねー. TensorFlow Lite for Microcontrollersとか(極端).

 読者層はCVPRとかACLとか完全読破する実力も気力も時間もないけどそれとなく最新研究とか良い資料とか知っておきたいな. という中間層.というか私がそんなモンかなー, なんて.

 それではいってみよー.


NLP

 いやー, 「同時に6紙がSOTAを報告!?!?」 – @_Ryobot とか. 荒れていた?ようですね.にしても, りょぼっとさんの絵は可愛い.
 というかpiqcyさんの記事が高品質.


GAN

まとめのまとめになっていますね…^^;
下記の他にもオモロイのありますんけど.

  • テキストから画像を生成するGANまとめ
  • GoodfellowさんのGANのオススメ論文10選まとめ (2018/02)
  • InfoGAN
    GANの生成べクトルに任意の特徴を表現する隠れ符号を埋め込み生成される画像に任意の特徴が含まれるように制御するというもの.
  • Photo Wake-Up
    たった1枚の写真から3Dモデルを生成する。ヒト型であればある程度崩れていても可。ワシントン大学の研究チームが開発。

  • Twitter

    • BigGANがImageNetの画像生成に成功〜!!チャネル数とバッチサイズを上げるのが重要で,直交正則化をジェネレータに適用し,zのサンプリング範囲を決めて範囲外を切り捨てるTruncation Trickによって多様性と高品質を実現
      Inception Score: 前SOTA 52.52 → 166.3 – [@_Ryobot]

      異なる分野でも正直に効果出そうだなーなんて.

RL

  • A (Long) Peek into Reinforcement Learning
    初心者が強化学習分野に入門しやすいよう書かれた解説記事です.

  • Twitter

    • DQNやA3C等の論文の筆頭著者として知られるMnih氏や,AlphaGoの開発者David Silver氏,分散深層強化学習で革新的な論文を出し続けているHado van Hasselt氏など,正真正銘の超一流研究者による講義動画 – [@learn_learning3]
      https://www.youtube.com/playlist?list=PLqYmG7hTraZDNJre23vqCGIVpfZ_K2RZs

    • Rainbowの亜種であるAPE-Xに, RNNを組み込むことでパフォーマンスを劇的に改善した研究. 任意の状態から学習を行う場合RNNの初期値をどうするかという問題があるが, RNNの状態もとっておく, RNNの状態を作るための初期ステップ(burn-in)を取っておくという対策を行っている
      https://openreview.net/forum?id=r1lyTjAqYX


GraphConv

  • Deep Graph Library (DGL)
    グラフニューラルネットを容易に構築することができるライブラリ.
    GraphConv, TreeLSTMなどの実装が提供されている. バックエンドはPyTorch(+MXNet/Gluon).

Clustering

ちょっと違うですけど, まぁ, まぁ.

  • Deep Clustering
    未学習のCNNに画像突っ込んで下層の出力をkmeansしたら分類できた. という話. おもしろい.

  • UMAP
    tSNEよりムチャ速い上に精度高い. PCA-UMAPなんてのも開発された.


つ か れ た.
マルチモーダル系とかFM系は別記事で書くと思います. よ?