今週のElastic News(2018/12/30~2019/01/05)
今週、Elasticについて新たにWEBで観測した情報をまとめます。 (個人的に注目だと感じた記事は太字で紹介しています。)
公式ブログ
RELEASES
- なし
ENGINEERING
- なし
Elastic Stack Updates
- なし
USER STORIES
OTHERS(NEWS/CULTURE/...)
- なし
ウェビナー
- なし
その他ブログ記事など
Elastic公式情報以外の記事はカテゴリ別に分類して紹介しています。分類の基準が気になる方は「このブログについて」を参照ください。
初心者向け(概説、インストールなど)
- How to Install ELK Stack on CentOS 7 / Fedora 29 - Computingforgeeks
- How to Install Elasticsearch on RHEL 8 / CentOS 8 - Computingforgeeks
- How to install Elasticsearch on Ubuntu Server 18.04
- Elasticsearch – Murat Çileli – Medium
- elasticsearchおよびkibanaのインストールとcurlを用い...
- WSL UbuntuにElasticsearch6.5.4の環境設定 - Qiita
- Elasticsearch tutorial for beginners using Python – Nitin Panwar...
- How to put in Elasticsearch on Ubuntu Server 18.04 - Erpd Mashup
検索、言語別クライアントの実装例
- Integrating Textual and Visual Information into a Powerful Visual ...
- Ransackの検索をElasticsearchに置き換える - Qiita
- The semantics of Elasticsearch’s nested datatype and query operator
- Elasticsearch tutorial for beginners using Python – Towards Data...
- Build a Serverless GeoSearch GraphQL API using AWS AppSync & Elast...
- Azure Functions for Real World (data sync) – James Reátegui –...
- Matching rabbit owners and flatmates with Elasticsearch | REA Grou...
ログ監視/ログ分析
- Oracle alertlog Monitoring with Elasticsearch and Kibana
- Monitor nginx log on kibana using fluentd with Docker
- kubernetesに展開するfluentd-daemonset-elasticsearchのconfigM...
モニタリング/パフォーマンス監視
セキュリティ
- i-FilterのアクセスログをLogstashで正規化してセキ...
- Creating Search Guard TLS certificates with OpenSSL
- 6IX7ine/stretcher
データ分析/データ集計
可視化
データ投入
運用Tips、トラブルシュート
- Elasticsearchで覚えておくと便利そうなAPI - Qiita
- ElasticsearchのDockerイメージにプラグインを入れた...
- Fixing "duplicate plugin" issues in Elasticsearch
その他
今週は以上です。
最新の情報を収集したい方向けに、情報収集に使用しているDiscordチャンネルを公開しています。ご興味ありましたら、こちらから参加ください。
また、Elasticsearchについてのツイート情報を閲覧できるKibanaダッシュボードをこちらで公開しています。以下のパスワードでログインするとダッシュボードオンリーユーザーとして閲覧できるはずです。
- ID: elasticlover
- password: watchtwitterinfo
Elastic Cloudの環境提供は@johtaniさんです。ご協力、ありがとうございます。提供いただいた経緯はこちらから確認できます。
去年の振り返りと今年の抱負 @2019
去年の振り返り
去年は何を血迷ったかこのブログをスタートしたことで、「1週間分のElastic Stackに関するWEB情報をまとめるブログ」の人として認知された1年でした。
最初は誰にも見向きされずに細々とやっていく予定だったのですが、開始して1ヵ月後には@johtaniさんに補足され、宣伝されたことにより、多くの人に閲覧されるようになりましたw
毎週最新記事をチェックしてくれる人は20~40名といったところです。いつもありがとうございます。
その関連でElasticsearch勉強会で発表させていただいたりもしました。
今年はもうちょっと別のテーマでも発表してみたいですね。
また、@johtaniさんの好意により、Elastic Cloudの環境をお借りして、記事収集に利用できるElasticsearch/Kibana環境を公開しました。個人的に毎週の更新にも利用していて、かなり助かっています。
そして、年の終わり際にはElasticさんのコミュニティランチに招待していただきました。もはや私の中では伝説と化していたShay Banonさんに間近でお会いすることができ、「実在する人物だったんだ…!」と感動を胸に、ブログ更新のやる気を頂きました。今年は去年呼ばれなかった方を中心に呼ばれると思うので、Elastic関連のコミュニティ活動をやられている皆さんは楽しみにしておいて良いのではないでしょうか。
あとは初めてAdvent Calendarに参加したり。
Reactivesearchでいい感じの検索SPAを30分ぐらいで作る - Qiita
この記事は Elastic stack (Elasticsearch) Advent Calendar 2018 の15日目の記事です。 こんな感じのSPAを30分ぐらいで作ります。 「 Elasticsearchを使った検索WEBアプリを作りたいんだよねぇ」 『はぁ』 「データ入れたらすぐに高速な検索できちゃうんでしょ?」 『いや、すぐにという訳には...』 「あとさ、ユーザ体験を良くするためにSPAでお願いしたいんだよねぇ」 『(また突拍子もないことを言い始めたぞ...)』 「というわけで検討よろしく!検索対象にしたいデータはCSVで送っとくから」 『とりあえず検討してみます😭』 こんな時、皆さんならどうしますか? ガッツリ画面を作って検索クエリも自前でガリガリ書いて頑張りますか? それも一つの方法ではありますが、PoCや小さい案件であれば、もっと楽に早く実現できる方法があればそっちを使いたい感じです。 そして、この場合はそれがあります。 React.jsや Vue.jsのUIコンポーネントとして使える Reactivesearchです。
去年はそこそこ挑戦できたかなぁ、と思っています。(今年のハードルが上がった...。)
今年の抱負
ジャストアイデア。
記事作成の自動化を推進する
ちょっとだけ準備を進めていたりします。
- Discordでピン留めされた記事リンクにジャンルを表すリアクションをつけておくとElasticsearchに記事データを投入してくれるDiscord Bot
— j-yama (@j__yama) 2019年1月1日
- Elasticsearchに投入済みの記事データからMarkdown記事を作成してくれるスクリプト
の2つが仮完成したので、今後はDiscordでポチポチするだけで記事ができる
今週のElastic News(2018/12/23~2018/12/29) - Elasticloverは、これを使って記事を作成しました。
あとは記事の日時情報だけ取得できれば完璧なんですが、これを特定するのが難しい。
ブログの更新を半自動化するにあたって、記事の作成日時をどう取得すれば良いか?に再度ぶち当たってる。解決策として該当の記事のURLをGoogle検索して、その結果に出てくる日付を取得すれば良いのでは…と思ってたけれど、表示されない場合もあるようで駄目らしい。 pic.twitter.com/KwpD5eQw99
— j-yama (@j__yama) 2018年12月28日
Google検索結果のスニペットに表示される日付けはアルゴリズムによって完全に自動化 https://t.co/L4gUfq756K ページ内に作成日または更新日に相当する情報がない場合は検索結果の日付部分がなくなるみたいな感じなんかな。てっきりGoogleにインデクシングされた日付が入ると思っていたので意外。
— j-yama (@j__yama) 2018年12月28日
サクッと試しておきました。ご参考までにー👋https://t.co/BWfHCQFNm0
— Shota Ito (@st_1t) 2018年12月28日
lastmodifiedは動的に生成されるサイトの場合、現在の日時が返ってくるだけで意外と役に立たんくてつらい
— j-yama (@j__yama) 2018年12月28日
うーむ…アイデア募集中です。
紹介する記事をジャンルや公開日、タグなどで検索できるインタフェースを公開する
ReactivesearchでReact.jsアプリを作ってGithub Pagesなどで公開することを想定。
ではReactivesearchなどで検索UIを作って、記事に設定したタグで検索できるようにしたらどうか?というと、これは結構良いと思う。クリックで記事にも飛べるリンクも付与する感じ。
— j-yama (@j__yama) 2018年12月24日
ただ、タグを手動で付けるとなると更新コストが高くて確実にエターナる自信がある。つける基準も難しい。 pic.twitter.com/PjfjDwGTDa
タグはあると便利だと思うんだけども、楽に付けるためには専用のGUIが必要な気がする。
去年よりも記事まとめブログ以外の活動を増やす
初心者向けのHow to記事、勉強会の発表とか。 前者についてはJEUGのディスカッションで話題になっているようにKibelaとかでまとめてあったりすると、使い始めた人が迷う事も減るんじゃないか、と夢想しています。なお、やる気は…
で、場合によっては記事まとめブログの活動は縮小する可能性もあると思います。 とりあえず節目となる1周年までは続けるつもりですが。
おわりに
そんな感じで。今年もElasticloverをよろしくお願いします!
今週のElastic News(2018/12/23~2018/12/29)
今週、Elasticについて新たにWEBで観測した情報をまとめます。 (個人的に注目だと感じた記事は太字で紹介しています。)
公式ブログ
RELEASES
- なし
ENGINEERING
Elastic Stack Updates
- なし
USER STORIES
- なし
OTHERS(NEWS/CULTURE/...)
- なし
ウェビナー
- なし
その他ブログ記事など
Elastic公式情報以外の記事はカテゴリ別に分類して紹介しています。分類の基準が気になる方は「このブログについて」を参照ください。
初心者向け(概説、インストールなど)
- ログ解析で用いられるElasticsearchとはなんなのか -...
- Installing ELK stack on mac for dummies — tested and working
- LogStashのインストール - Qiita
- Kibanaのインストール - Qiita
- elasticsearchのインストール - Qiita
検索、言語別クライアントの実装例
- Elasticsearch SQL を触ってみた - istyle Tech Blog
- 横断検索で社内情報共有を加速させる - Hatena Devel...
- 基本的なElasticsearchの検索クエリ - Qiita
- jackmeng/simple-es
- Elasticsearch: Query DSL — Match & Term – David Cargatser ...
- Elasticsearch‘s simple_query_string: Powerful Yet Simple
- RestHighLevelClientでBulkAPIを使う - Qiita
- DynamoDBとElasticsearchをエンプラで本気で使ってみた...
- Building BookSearch Application using Vue and Elasticsearch
- 検索対象シャードのスキップ - Qiita
ログ監視/ログ分析
- Amazon Elasticsearch Service、Amazon Kinesis Data Firehose、Kiba...
- Log Aggregation using ELK Stack | Java Code Geeks - 2018
- Centralized logging in Kubernetes – Thilina Manamgoda – Medium
- Scale-Ready Logging with Heroku and ELK – Tal Bronfer – Medium
モニタリング/パフォーマンス監視
- Dec 23rd, 2018: [EN][Observability] Querying metrics from Prometheus
- ZabbixのデータをElasticsearch+Kibanaで可視化してみた ...
セキュリティ
- Real-Time Sysmon Processing via KSQL and HELK — Part 2: Sysm...
- Day24 - Predator捕捉病毒样本 - Elastic 中文社区
データ分析/データ集計
可視化
- Dec 24th, 2018: [EN][Kibana] Region maps in Kibana
- An Intelligent Food Transportation System – Ömer Faruk Tuna –...
- KibanaのSpaces移行 - Qiita
- Dec 25th, 2018: [EN][Kibana] Awesome Kibana Spaces
- Elastic UI Frameworkのリポジトリは色々参考になりそ...
- Kibanaのデザインを6.0以前に戻す - Qiita
データ投入
- Day 25 - Elasticsearch Ingest节点数据管道处理器 - Elastic...
- データ可視化、分析をする人に「Elasticsearchにデータ入れておいて」と言われたら
- Dynamic/Manual field indexing on ElasticSearch
- Converting Elasticsearch data into structured dataset for processi...
運用Tips、トラブルシュート
- Réplicas de índices con un único nodo de Elasticsearch
- Elasticsearch under Shenandoah – Kirill A. Korinsky – Medium
- Elasticsearchの削除したインデックスの実データ削...
- Elasticsearch snapshots backup/restore from s3 to another cluster.
- Export Data from ElasticSearch to CSV – Shaon Shaonty – Medium
- moto と requests を pytest で使う - Qiita
- "Stream to Amazon Elasticsearch Service" does not work
- KibanaでElasticsearchに高負荷をかけてしまわないた...
その他
- Elastic Stack 7.0で入ってくる新機能をちょっと紹介 ...
- Elasticsearchのプラグインを作成する(1) - Qiita
- JEUG#02 LT "X-Pack"どうなった問題
- Logstashの最近のアップデートで面白そうなものを...
今週は以上です。
最新の情報を収集したい方向けに、情報収集に使用しているDiscordチャンネルを公開しています。ご興味ありましたら、こちらから参加ください。
また、Elasticsearchについてのツイート情報を閲覧できるKibanaダッシュボードをこちらで公開しています。以下のパスワードでログインするとダッシュボードオンリーユーザーとして閲覧できるはずです。
- ID: elasticlover
- password: watchtwitterinfo
Elastic Cloudの環境提供は@johtaniさんです。ご協力、ありがとうございます。提供いただいた経緯はこちらから確認できます。
今週のElastic News(2018/12/16~2018/12/22)
今週、Elasticについて新たにWEBで観測した情報をまとめます。 (個人的に注目だと感じた記事は太字で紹介しています。)
公式ブログ
RELEASES
ENGINEERING
- Elastic Advent Calendar 2018, Week 2 | Elastic
- What's New with Elasticsearch Ingest Node in 6.5 | Elastic
- Advanced Search Queries in Elastic App Search (Example) | Elastic
- Resolving Kibana Local File Inclusion Flaw CVE-2018-17246 | Elastic
- Functionbeat: Ingest Serverless Cloud Data to Elasticsearch | Elastic
- Elastic Advent Calendar 2018, Week 3 | Elastic
Elastic Stack Updates
- This Week in Elasticsearch and Apache Lucene - 2018-12-15 | Elastic
- This Week in Elasticsearch and Apache Lucene - 2018-12-21 | Elastic
USER STORIES
OTHERS(NEWS/CULTURE/...)
- なし
ウェビナー
- Getting Started with the Elastic Stack on Microsoft Windows and Azure | Elastic
- Learn to Save Time & Money with Automated Reports and Alerts for Elastic Stack and Grafana -Skedler
その他ブログ記事など
Elastic公式情報以外の記事はカテゴリ別に分類して紹介しています。分類の基準が気になる方は「このブログについて」を参照ください。
初心者向け(概説、インストールなど)
検索、言語別クライアントの実装例
- Analyze設定のマイフェイバリット(Elasticsearch) - はてだBlog(仮称)
- 別立てのナレッジインデックス(検索UX向上のためのオレオレ考察 (Elasticsearch)) - はてだBlog(仮称)
- ElasticsearchのRanking Evaluation APIについて整理してみた - Taste of Tech Topics
- 【Python+Flask】WebAPIを使った簡易書籍管理アプリ【Elasticsearch、Vue.js】 - Qiita
- TransportClientからRestHighLevelClientに移行する - Qiita
- searchkick language: 'japanese' と Elasticsearch 6.5 系を組み合わせるとインデックスの作成に失敗する - Qiita
- PHP,Go,Elasticsearchによる、@cosmeを5倍速くする取り組み
- Dec 20th, 2018: [EN][Python/Elasticsearch] Python DSL for Elasticsearch - Advent Calendar - Discuss the Elastic Stack
- Dec 21st, 2018: [EN][Elasticsearch] Using SQL to query data in Elasticsearch - Advent Calendar - Discuss the Elastic Stack
- Guide to Elasticsearch in Java | Baeldung
- How to Use Elasticsearch With a Spring Data Elasticsearch Project - DZone Big Data
- BE CAREFUL WHILE QUERYING INNER OBJECTS IN ELASTICSEARCH | Josh Software – Where Programming is an Art!
- Day 19 - 通过点击反馈优化es搜索结果排序 - Elastic 中文社区
- Day22 - 熟练使用ES离做好搜索还差多远? - Elastic 中文社区
- Elasticsearch bool query小结 | Rui's Blog
- Dec 16th, 2019: [DE][Elasticsearch] Zusammengesetzte Worte in Elasticsearch - Advent Calendar - Discuss the Elastic Stack
ログ監視/ログ分析
- ECS on Fargateで動いているプログラムのログをElasticsearch/Kibanaで可視化 - Qiita
- Chainerのログをログコレクターと連携させる - Qiita
- GKE環境でfluentd + elasticsearch + kibanaでログ環境を構築してみる - Qiita
- ロボットのログをLogstashで集める – Yoshihiko Miyaichi – Medium
- fluentdでGKEコンテナから送られたログを正規表現で分解する - Qiita
- AkamaiのアクセスログをElastic Stackで可視化してみる - Qiita
- Windows環境でFluentd+Elasticsearch+kibanaでアクセスログの可視化 - Qiita
- Semantic logging is great but… – Luis Pereira – Medium
- Managing Docker Logs with Elasticsearch and Kibana (dockerized, of course)
- Dec 17th, 2018: [FR][Elastic Stack] Indexer facilement les slow logs d'Elasticsearch avec Filebeat - Advent Calendar - Discuss the Elastic Stack
モニタリング/パフォーマンス監視
- Elastic Stackで簡単!Dockerコンテナ監視ダッシュボード作成 - Taste of Tech Topics
- Dec 19th, 2018: [EN][Heartbeat] Configure a TLS expiration notification using Heartbeat - Advent Calendar - Discuss the Elastic Stack
- Install Elastic HQ Plugin to Monitor Elasticsearch Cluster | DevOps Techie
セキュリティ
- 5分で分かるApache Metron - Qiita
- Open source security for Kibana — Node.JS reverse proxy with Kerberos
- Elasticsearch | Field anonymisation | Search Guard
- Detecting suspicious child processes using ee-outliers and Elasticsearch – NVISO Labs
- File Inclusion Bug in Kibana Console for Elasticsearch Gets Exploit Code
- Execute This, I Know You Have It - CyberArk
データ分析/データ集計
- Machine Learningでの異常検知をトリガーにWatcherで通知するまで - Qiita
- Analyze user behavior using Amazon Elasticsearch Service, Amazon Kinesis Data Firehose and Kibana | AWS Database Blog
データ投入、可視化
- CLI for indexing from Firestore to Elasticsearch – All things #datastreams
- Welcome a New Data Source — Elasticsearch – Data Driven Investor – Medium
- Optimize Grafana dashboards with Elasticsearch index aliases
- Connecting Different Pipes: Ingesting ElasticSearch Data in Splunk – Cribl Blog
運用Tips、トラブルシュート
- ElasticsearchのReindex APIで小ネタ紹介 - Qiita
- Elasticsearch API を emacs buffer から呼ぶ - Qiita
- Elasticsearch API を VisualStudio Code から呼ぶ - Qiita
- elasticsearch6ではまったところメモ - Qiita
- IAM認証後にローカルのElasticsearchへアクセスする際のCORS設定 - Yoshinori Satoh Tech blog
- GitHub - sky-joker/elasticserch-container: Elasticsearchコンテナ作成用リポジトリ
- Dec 18th, 2018: [EN][Elastic Stack] Set up for success - don't repeat yourself! - Advent Calendar - Discuss the Elastic Stack
- Hacks about ELK Stack – anand gt – Medium
- Deploying Elasticsearch Within Kubernetes | Rancher Labs
- Dec 22nd, 2018: [CN][Elasticsearch] 跨集群复制(CCR)的使用 - Advent Calendar - Discuss the Elastic Stack
- Day 16 - Elasticsearch性能调优 - Elastic 中文社区
- Day 20 - Elastic性能实战指南 - Elastic 中文社区
- Day 17 - 关于日志型数据管理策略的思考 - Elastic 中文社区
- Day 18: 记filebeat内存泄漏问题分析及调优 - Elastic 中文社区
- Day 21 - ECE 版本升级扫雷实战 - Elastic 中文社区
- 京东到家订单中心 Elasticsearch 演进历程 - 51CTO.COM
- Como encontrar e remover documentos duplicados no Elasticsearch | Semantix
その他
- 第27回Elasticsearch勉強会「LT&忘年会」2018.12 - Togetter
- Elastic社のGithubレポジトリで面白そうなものを紹介してみる - infra.log
- [秋葉原] Pythonスクレイピング勉強会 Scrapy/Elasticsearch 初心者歓迎! - connpass
- Elasticsearch実践ガイドを読み終わりました - シュンツのつまづき日記
- Open Source as Revenue Driver: How Elasticsearch Uses Open Source for Revenue Growth, Tech…
- IBM Cloud Databases for etcd, Elasticsearch, and Messages for RabbitMQ Are Now Generally Available - IBM Cloud Blog
今週は以上です。
最新の情報を収集したい方向けに、情報収集に使用しているDiscordチャンネルを公開しています。ご興味ありましたら、こちらから参加ください。
また、Elasticsearchについてのツイート情報を閲覧できるKibanaダッシュボードをこちらで公開しています。以下のパスワードでログインするとダッシュボードオンリーユーザーとして閲覧できるはずです。
- ID: elasticlover
- password: watchtwitterinfo
Elastic Cloudの環境提供は@johtaniさんです。ご協力、ありがとうございます。提供いただいた経緯はこちらから確認できます。
今週のElastic News(2018/12/09~2018/12/15)
今週、Elasticについて新たにWEBで観測した情報をまとめます。 (個人的に注目だと感じた記事は太字で紹介しています。)
公式ブログ
RELEASES
ENGINEERING
- How to Find and Remove Duplicate Documents in Elasticsearch | Elastic
- Elasticsearch Security: Configure TLS/SSL & PKI Authentication | Elastic
- Powerful New Features in Elastic Cloud Enterprise (ECE) 2.0 | Elastic
- Introducing Beats Central Management in the Elastic Stack | Elastic
- Elastic Advent Calendar 2018, Week 2 | Elastic
Elastic Stack Updates
- This Week in Elasticsearch and Apache Lucene - 2018-12-09 | Elastic
- Keeping up with Kibana: This week in Kibana for Dec 10th, 2018 | Elastic
USER STORIES
- なし
OTHERS(NEWS/CULTURE/...)
ウェビナー
その他ブログ記事など
Elastic公式情報以外の記事はカテゴリ別に分類して紹介しています。分類の基準が気になる方は「このブログについて」を参照ください。
初心者向け(概説、インストールなど)
- AWSのElassticsearchを利用して、ウェブサイトをEC2インスタンスで公開 - Qiita
- EC2+ELK環境構築 - Qiita
- 個人用のWikiをGrowiを用いて構築 - Qiita
- Elasticsearchに関する基本知識 - Qiita
- RailsでElasticsearchを1から動かしてみる 【その1 】インストール - 検索ブログ
- 12 Factor App (Uygulama Geliştirme Prensipleri) – Abdulkerim Karaman – Medium
- Monitoring Services with Elasticsearch APM – suraj kumar – Medium
- What is Elastic stack which everyone is talking about???
- How To Install Elasticsearch, Logstash, and Kibana (Elastic Stack) on CentOS 7 | DigitalOcean
検索、言語別クライアントの実装例
- Wikimedia検索インデックスに対するElasticsearchのMLT(More-Like-This)クエリを試す - NO_WAIT
- FlaskとElasticsearchで社内の簡易書籍管理システムを作ってみた - Qiita
- elasticsearch-dsl で集計を伴う検索クエリを書く - Qiita
- Reactivesearchでいい感じの検索SPAを30分ぐらいで作る - Qiita
- 「明日から検索機能の担当やってね」と言われたときに知っておくと良さそうなこと – Yusuke Iwaki – Medium
- Elasticsearch利用まとめ2018 - Qiita
- ブログ - Magento Open Source 2.3でElasticsearchをつかう | Magentoと越境ECの総合サポート Principleworks
- Text datatypeとKeyword datatypeの公式Rでの設定項目を一覧比較して理解を深める(Elasticsearch) - はてだBlog(仮称)
- 検索結果の良さを計測して定量的に改善していく - Speaker Deck
- Building a GraphQL API By Example: Restaurant Reviews (part 4 — geospatial search)
- The Commercial API Journey – CryptoCompare Research
- Global Enterprise Search Software Market Insights 2018-2024: Swiftype, Algolia, Elasticsearch, Apache Solr, SearchSpring – Cleveland Post Gazette
- Made To Measure: Ranking Evaluation using Elasticsearch - Speaker Deck
- Advent Calendar 9: The way to our own Elasticsearch Plugin 1/2 | Inpsyde
- Day 11 -父子关系维护检索实战一 - Elasticsearch 5.x-父子关系维护 - Elastic 中文社区
- Day 14 - 订单中心基于elasticsearch 的解决方案 - Elastic 中文社区
- Day 15 - 基于海量公司分词ES中文分词插件 - Elastic 中文社区
- Elasticsearch SQL用法详解
- Elasticsearch Search API - 不要乱摸 - 博客园
- Elasticsearch通关教程(五):如何通过SQL查询Elasticsearch - JaJian - 博客园
- ElasticSearch ou SolR pour votre moteur de recherche ?
- Dec 11th, 2018: [PT-BR][Elasticsearch] Usando Field Aliases para criar uma visão unificada entre índices com mapeamento distinto - Advent Calendar - Discuss the Elastic Stack
ログ監視/ログ分析
- 最初に知っておけば良かったFilebeatの設定 - Taste of Tech Topics
- Go言語 + Docker + Elastic Stack (Elasticsearch Logstash Kibana) で始める BI環境構築 ハンズオン - Qiita
- Apacheのアクセスログを、FluentdでtailしてElasticsearchに放り込む - Qiita
- Apacheのアクセスログを、EmbulkでElasticsearchに叩き込む - Qiita
- ELCEP — Monitor your Logs? – BennyH – Medium
- Elastic Stack ile Log Yönetimi ve İzleme [BEATS — LOGSTASH — ELASTICSEARCH-KIBANA ENTEGRASYONU]
- Day 12 - Elasticsearch日志场景最佳实践 - Elastic 中文社区
- ElasticSearch实战:Linux日志对接Kibana - 知乎
モニタリング/パフォーマンス監視
- Elastic Stack Alertingではまったことと対処方法 - Qiita
- VagrantとAnsibleを用いたフロー情報の可視化環境作成 - Qiita
- Dec 9th, 2018: [EN][Elastic Stack] Ubiquiti metrics in the Elastic Stack - Advent Calendar - Discuss the Elastic Stack
- Dec 15th, 2018 [EN][APM] Overhead of the Java agent - Advent Calendar - Discuss the Elastic Stack
セキュリティ
- Announcement: open-sourcing ee-outliers – NVISO Labs
- Cryptocurrency Miner Spreads via Old Vulnerabilities on Elasticsearch - TrendLabs Security Intelligence Blog
- Boomoji app exposed 5.3 million users’ data due to misconfigured ElasticSearch server | Cyware
- What the HELK? SIGMA integration via Elastalert – Posts By SpecterOps Team Members
- Security for Elasticsearch | Custom authentication modules | Search Guard
- Dec 10th, 2018: [EN][Elastic Stack] Correlate and Alert for Security Analytics - Advent Calendar - Discuss the Elastic Stack
データ分析/データ集計
- Elasticsearch Machine Learningでファイアーウォールログから異常を検知する - ネットワークエンジニアのアレ
- Implementing the Netflix Media Database – Netflix TechBlog – Medium
- Day 13 - Elasticsearch-Hadoop打通Elasticsearch和Hadoop - Elastic 中文社区
データ投入、可視化
- Kibanaによるバッチ遅延監視のためのグラフ化・6つの実践例 - Qiita
- Elasticのフォーラムを可視化してみよう - Qiita
- Elasticsearchに入ったネスト構造のドキュメントをフラットにしたい - Qiita
- IoT機器の障害状況をKibanaで可視化する 〜U-motion®への適用事例〜 - Qiita
- Vega利用時によくある7つの疑問 - Taste of Tech Topics
- BME280とElasticserchを使って可視化してみよう - Qiita
- 検索練習用のサンプルデータのインポート@Elasticsearch:住所マスタを使おう - はてだBlog(仮称)
- mongo-connectorでMongoDBからElasticsearchへリアルタイム同期 #mongodb - クリエーションライン株式会社
- Real-time reporting of cucumber tests to Elastic Search
- Dec 14th, 2018: [EN][Kibana] Canvas: From 0 to dashboard before the morning is out - Advent Calendar - Discuss the Elastic Stack
- Elasticsearch + RxJava, ingesta de datos a máxima velocidad - Paradigma
- Using RabbitMQ as a Ruby work queue to populate Elasticsearch via Docker Compose - Eric London » Open Source » Software Blog
- GitHub - ZeitOnline/sphinx_elasticsearch: Indexes a documentation project build via Sphinx into elasticsearch.
- Elasticsearch Meetup Vienna - webLyzard Live Demo - Speaker Deck
運用Tips、トラブルシュート
- トラブルシュート時などの現状ざっくり把握のためのAPI一覧まとめ (Elasticsearch) - はてだBlog(仮称)
- Kibana6.5 便利なAdvanced Settingsの紹介 - Qiita
- Logstashを使ったElasticsearchの無停止インデックス更新の運用を考える - Qiita
- Elasticsearchに溜まったログのサマリーをLambdaで毎朝Slackに通知、する仕組みをTerraformで構築する - Qiita
- クラスタを殺すIngestNode&Grok - Qiita
- How to remove Elasticsearch node(s) - Qiita
- Elasticsearch: From timeout to 4 seconds — A Journey to 100 million logs in ELK
- Dec 12th, 2018: [EN][Elasticsearch] Automatically adding a timestamp to documents - Advent Calendar - Discuss the Elastic Stack
- ElasticSearch: Zero downtime reindexing – Autotrader & Carsguide Engineering
- Elasticsearch Cluster: How to Restore a snapshot – Nuwan Chamara – Medium
- Recovery elastic’s index’s shard if it was broken – Kirill A. Korinsky – Medium
- Upgrading Elasticsearch at Redmart Pt 1 - Code Changes
- Day 10 - Elasticsearch 分片恢复并发数过大引发的bug分析 - Elastic 中文社区
- Gérez vos sauvegardes ElasticSearch avec Curator - Zwindler's Reflection
その他
- Elasticsearchのプラグインを自作する - Qiita
- Oracleの下落続く - 12月データベースランキング | マイナビニュース
- Elastic Japan Innovation Awardを受賞を致しました。 | Acroquest Technology株式会社(アクロクエストテクノロジー)
- Elastic launches Helm Charts (alpha) for faster deployment of Elasticsearch and Kibana to Kubernetes | Packt Hub
- Elastic Joins Cloud Native Computing Foundation (CNCF) and Launches Helm Charts for Elasticsearch on Kubernetes | Business Wire
- Elastic Joins Cloud Native Computing Foundation (CNCF) and Launches Helm Charts for Elasticsearch on Kubernetes : @VMblog
- Crwe World | Elastic Joins Cloud Native Computing Foundation (CNCF) and Launches Helm Charts for Elasticsearch on Kubernetes
- Elastic Joins Cloud Native Computing Foundation (CNCF) and Launches Helm Charts for Elasticsearch on Kubernetes | | Area-Info.net
- Elastic wird Mitglied der Cloud Native Computing Foundation | heise Developer
- Amazon Elasticsearch Service achieves HIPAA eligibility, PCI and ISO compliance
- #163 – Top 5 – Elasticsearch with Wayne Fuller (#54)
- Day 9 - 动手实现一个自定义beat - Elastic 中文社区
今週は以上です。
最新の情報を収集したい方向けに、情報収集に使用しているDiscordチャンネルを公開しています。ご興味ありましたら、こちらから参加ください。
また、Elasticsearchについてのツイート情報を閲覧できるKibanaダッシュボードをこちらで公開しています。以下のパスワードでログインするとダッシュボードオンリーユーザーとして閲覧できるはずです。
- ID: elasticlover
- password: watchtwitterinfo
Elastic Cloudの環境提供は@johtaniさんです。ご協力、ありがとうございます。提供いただいた経緯はこちらから確認できます。
今週のElastic News(2018/12/02~2018/12/08)
今週、Elasticについて新たにWEBで観測した情報をまとめます。 (個人的に注目だと感じた記事は太字で紹介しています。)
公式ブログ
RELEASES
- ブログ記事はないですが、6.5.2がリリースされました
- Elasticsearch version 6.5.2 | Elasticsearch Reference [6.5] | Elastic
- Kibana 6.5.2 | Kibana User Guide [6.5] | Elastic
- Logstash 6.5.2 Release Notes | Logstash Reference [6.5] | Elastic
- Beats version 6.5.2 | Beats Platform Reference [6.5] | Elastic
- Elasticsearch for Apache Hadoop version 6.5.2 | Elasticsearch for Apache Hadoop [6.5] | Elastic
- APM Server version 6.5.2 | APM Server Reference [6.5] | Elastic
ENGINEERING
- Introducing the Annotated Text Plugin for Elasticsearch: Search for Things (not Strings) | Elastic
- Analyzing Bitcoin Price Behavior with Elasticsearch & Kibana | Elastic
- Welcome to the Elastic Advent Calendar, 2018! A look at Week One | Elastic
Elastic Stack Updates
- This Week in Elasticsearch and Apache Lucene - 2018-11-30 | Elastic
- Keeping up with Kibana: This week in Kibana for Nov 26th, 2018 | Elastic
USER STORIES
- なし
OTHERS(NEWS/CULTURE/...)
- Hosted Elasticsearch: Elastic Cloud and Amazon Elasticsearch Service | Elastic
- Reflections on Three Years in the Elastic Public Sector | Elastic
ウェビナー
その他ブログ記事など
Elastic公式情報以外の記事はカテゴリ別に分類して紹介しています。分類の基準が気になる方は「このブログについて」を参照ください。
初心者向け(概説、インストールなど)
- 様々なメトリクスやログを集めてシステム解析 - Elastic Stackの入門と活用 - / Getting started Elastic Stack for logging/metrics - Speaker Deck
- メモリ512M最安VPSでnginx + php + elasticsearch on dockerを起動する - Qiita
- Tech dossier: Elasticsearch / the ELK stack | Expedition Data
- Hands-on Introduction to Elasticsearch — III – Jitendra Agrawal – Medium
- Getting Started With ELK Stack By Building Uptime Monitor.
- #162 – Top 5 – Intro to Elasticsearch (#25)
- Supinfo Articles, lecteur et editeur d'article
検索、言語別クライアントの実装例
- Elasticsearchを使って、青空文庫検索エンジンの作り方を 1 から丁寧に丁寧に解説してみる - Qiita
- 検索サイトのUX検討の道しるべ(考えてみた): Elasticsearchの活用視点 - はてだBlog(仮称)
- Full text queries と Term level queries一覧見比べ(Elasticsearch) - はてだBlog(仮称)
- Dec 2nd, 2018: [JP][Elasticsearch] Analyze UIプラグインでAnalyzerの動きを理解する - Advent Calendar - Discuss the Elastic Stack
- Dec 6th, 2018: [JP][Elasticsearch] 検索順位を自在に操る - Advent Calendar - Discuss the Elastic Stack
- Searchkickの設定 - Qiita
- Elasticsearchで「最近よくいいねされてる」順の検索結果を出す - Qiita
- Suggestersのシンタックス雰囲気まとめ (Elasticsearch) - はてだBlog(仮称)
- Using Elasticsearch as the Primary Data Store - Bol.com Techlab
- Dec 8th, 2018: [EN][Python/Elasticsearch] Getting started with Elasticsearch DSL and Python - Advent Calendar - Discuss the Elastic Stack
- A Synonym By Any Other Name: From Alt. Labels to Knowledge Graphs
- ElasticSearch Joins: Has_Child, Has_parent query – BMC Blogs
- Dec 5, 2018: [EN][Elastic App Search] Quick and easy typeahead search with Elastic App Search - Advent Calendar - Discuss the Elastic Stack
- GitHub - namdp06/laravel-scout-aws-elasticsearch: Laravel scout work with aws elasticsearch
- Boosting Elasticsearch with machine learning - Elasticsearch, RankLib, Docker - qooba.net
- Leverage Search Templates in Elasticsearch – manifoldco
- GitHub - triadev/LaravelElasticsearchODM: Elasticsearch odm for laravel.
- Implementação De Um Mecanismo De Busca Textual Na Plataforma Libreflix Usando Elasticsearch - Speaker Deck
- Day 2 - ES 6.x拼音分词高亮爬坑记 - Elastic 中文社区
- Elasticsearch Query DSL 整理总结(四)—— Multi Match Query - ReyCG - 博客园
- Day 4 - PB级规模数据的Elasticsearch分库分表实践 - Elastic 中文社区
ログ監視/ログ分析
モニタリング/パフォーマンス監視
- Spring Boot+Micrometerで取得したメトリクスを、Elasticsearchに送ってKibanaで表示する - Qiita
- Beats と Infrastructure UI で何かやってみる | ENCOM SECURITY
セキュリティ
- artdeco/kibana: The Smallest Kibana Docker Image With Authorisation
- Why Wazuh needs an Elasticsearch template? - WAZUH's blog
- Running a multi-node Elasticsearch cluster locally with security enabled – Zoltan Altfatter – Software Engineer
- Data of 82 Million US users exposed on Elasticsearch InstancesSecurity Affairs
- Elasticsearch Data Breach Exposes 57 Million Records - SystemTek
- Data of 32 million SKY Brasil customers easily accessible on unprotected ElasticSearch server – HOTforSecurity
データ分析/データ集計
- ElasticStackで機械学習Tips~Model Boundsを表示して分かりやすく - Qiita
- Dec 4th, 2018: [EN][ML] Rarity Analysis with Machine Learning - Advent Calendar - Discuss the Elastic Stack
- Day 8 - 如何使用Spark快速将数据写入Elasticsearch - Elastic 中文社区
データ投入、可視化
- Kibana CanvasでCanvasならではの表現をしよう - Qiita
- Kibana Canvasをはじめてみよう - Qiita
- Excel のピボットテーブルを ElasticSearch + Kibana にしてみた - LINE ENGINEERING
- Logstashのhttp_poller inputプラグインでWEB上のあらゆるデータを取得する(ついでにKibanaで可視化する) - Qiita
- Elasticsearch + Logstash + Kibana + SudachiプラグインでTwitterを可視化したときのtemplate - Qiita
- Processor@IngestNodeについての一覧(Elasticsearch) - はてだBlog(仮称)
- Dec 3rd, 2018: [KR][Logstash] Facebook 그룹의 글을 Elasticsearch 로 가져오기 - Advent Calendar - Discuss the Elastic Stack
- Dec 7th, 2018: [FR][Kibana] A la découverte de Canvas - Advent Calendar - Discuss the Elastic Stack
- Loading wiki dumps into elastic search – Rohan Singh – Medium
- Indexing Amazon DynamoDB Content with Amazon Elasticsearch Service Using AWS Lambda | AWS Compute Blog
- Hack the Police + Elasticsearch – Nevelina Aleksandrova – Medium
- Day 6 - Logstash Pipeline-to-Pipeline 尝鲜 - Elastic 中文社区
運用Tips、トラブルシュート
- ElasticCloudからAmazon Elasticsearch Serviceへの移行して良かったこと大変だったこと – inamuu.com
- ElasticsearchのQueryが遅い時のトラブルシューティング - Qiita
- Elasticsearchのオペレーションを楽にするツールを作成した話 - Qiita
- クラスタを殺すIngestNode&Grok - Qiita
- Logstash のプロキシ設定 - Qiita
- Upgrade elasticsearch cluster from elasticearch 2.4.4 to 6.5.1
- Cómo actualizar Elasticsearch Service en AWS
- A Production Elasticsearch Curator Example – ImagineLearning – Medium
- Elastic Stack 롤링 업그레이드 - Jongmin's blog
- Day 5 - Elasticsearch 存储设备全解析 - Elastic 中文社区
- Day 7 - Elasticsearch中数据是如何存储的 - Elastic 中文社区
その他
- 2018年のElastic StackとElastic - @johtaniの日記 2nd
- Beatsシリーズへの貢献するには - Qiita
- Oracleの下落続く - 12月データベースランキング | マイナビニュース
- Heading to the Finish Line: Code.gov at Elastic DC – CodeDotGov – Medium
- 幫老婆管理食譜到IPO,ELASTIC Q2 2019 Earnings – Ray Woo – Medium
- Day 3 - kibana二次开发tips - Elastic 中文社区
今週は以上です。
最新の情報を収集したい方向けに、情報収集に使用しているDiscordチャンネルを公開しています。ご興味ありましたら、こちらから参加ください。
また、Elasticsearchについてのツイート情報を閲覧できるKibanaダッシュボードをこちらで公開しています。以下のパスワードでログインするとダッシュボードオンリーユーザーとして閲覧できるはずです。
- ID: elasticlover
- password: watchtwitterinfo
Elastic Cloudの環境提供は@johtaniさんです。ご協力、ありがとうございます。提供いただいた経緯はこちらから確認できます。
今週のElastic News (2018/11/25~2018/12/01)
皆さん、こんにちは。@j-yamaです。
気が付けば今年も早くも12月…アドベントカレンダーが始まる時期になってきました。
2018年、Elastic Stack関連では以下3つのアドベントカレンダーが開催されるようです。(他にもあったら教えてください!)
- Advent Calendar - Discuss the Elastic Stack
- 昨年から始まったElastic公式によるアドベントカレンダーです。Discuss Forumへ投稿されます。昨年通りであれば、毎週公式ブログに(こんな感じの)まとめ記事がアップロードされていくと思います。
- Elastic stack (Elasticsearch) Advent Calendar 2018 - Qiita
- 日本コミュニティのアドベントカレンダーです。Qiitaへ投稿されます。まだ枠が空いてますので、我こそは!という方は登録してみてはいかがでしょうか。
- advent - Elastic 中文社区
- 中国コミュニティのアドベントカレンダーです。elasticsearch.cnへ投稿されます。中国語が読める方はそのままで、読めない方はGoogle翻訳を活用してアレしましょう。
当ブログでも、これまでと同様リンクは張っていきますが、最速で情報を仕入れたい方は直接アドベントカレンダーをチェックしてみてはいかがでしょうか。
今週、Elasticについて新たにWEBで観測した情報をまとめます。 (個人的に注目だと感じた記事は太字で紹介しています。)
公式ブログ
RELEASES
ENGINEERING
- Elastic Machine Learning Anomaly Scoring with Partition Normalization and Multi-Bucket Analysis | Elastic
- Using Data Table and Debug Elements in Canvas within Kibana | Elastic
Elastic Stack Updates
USER STORIES
OTHERS(NEWS/CULTURE/...)
- なし
ウェビナー
- App Search : Déployez rapidement l'expérience de recherche Elasticsearch sur n'importe quelle plateforme (French) | Elastic
- La business intelligence appliquée au texte dans l'entreprise ou sur le web (French) | Elastic
- Building Effective Dashboards with Kibana and Elasticsearch | Elastic
その他ブログ記事など
Elastic公式情報以外の記事はカテゴリ別に分類して紹介しています。分類の基準が気になる方は「このブログについて」を参照ください。
今週から「関連プロダクト」の区分は廃止し、プラグインやSaaSプロダクトについてもユースケース別に分類するようにします。目的が分かり難かったので。
初心者向け(概説、インストールなど)
- Ubuntu16.04に全文検索エンジンElasticsearchをインストール | テクナレジ
- Windows環境で作るElasticsearch7.0(alpha1) - Qiita
- Introduction to the Elastic stack – ilegra – Medium
- All You Need to Know About the Technical Perspective of Elasticsearch - TechnoInsta
- Uses of Elasticsearch and Things to Learn – Sasho Trajkov – Medium
- Hands-on Introduction to Elasticsearch — II – Jitendra Agrawal – Medium
- Elastic search and Kibana in AWS with docker – Richard Parkins – Medium
検索、言語別クライアントの実装例
- [レポート]ANT203:NikeはこうしてElasticsearch選んだ! #reinvent | DevelopersIO
- nextcloud + Elasticsearch で日本語全文検索が動いたメモ - Qiita
- 検索サイトの検索ページのURL体系についての考察(Elasticsearchの製品哲学?の影響を受けた版) - はてだBlog(仮称)
- Laravel5.5 使用 Elasticsearch 做引擎,scout 全文搜索 | Laravel China 社区 - 高品质的 Laravel 和 PHP 开发者社区
- Vue.JS Components for building Search UIs – All things #datastreams
ログ監視/ログ分析
- LogstashのApache用grokフィルタ %{COMBINEDAPACHELOG} - Qiita
- 大きくなってきたIoTプロダクトのログ活用について 〜Amazon Elasticsearch Service篇〜 - フォトシンス エンジニアブログ
- Ingest NGINX container access logs to ElasticSearch using Fluentd and Docker
モニタリング/パフォーマンス監視
セキュリティ
- New Data Breach exposes 57 million records - HackenProof Blog
- ElasticSearch server exposed the personal data of over 57 million US citizens | ZDNet
- Elastic-Search-Server gibt persönliche Daten von 57 Millionen Nutzern preis | ZDNet.de
- Elasticsearch Snafu Exposes Data on 57 Million Americans - Infosecurity Magazine
- Data about 57 million people exposed by Elasticsearch servers - Cyberscoop
- Misconfigured ElasticSearch server leaks records of 57M US citizens - SiliconANGLE
- ElasticSearch server exposed data of nearly 57M U.S. residents | SC Media
- 57 Million Personal Info Records Leaked by Unprotected ElasticSearch Server
- Misconfigured Elasticsearch servers leaked data of 57 million Americans - TechSpot
- Misconfigured ElasticSearch server exposes 73 GB data of 57 million US citizens | Cyware
- Records of 114 Million US Citizen and Companies Exposed Online
- Unprotected ElasticSearch server exposes data of 57 million Americans
- Unprotected Elasticsearch database exposed data of 57mn people
- 'Data & Leads' Site Disappears After Data Exposure Alert
- Elasticsearch data breach exposes records of 82m Americans - Netwrix comments - Global Security Mag Online
- Сервер ElasticSearch раскрывал данные 57 000 000 человек - «Хакер»
- Elasticsearch伺服器配置不當,8,000萬名美國民眾資料外洩曝光 | iThome
- SKY Brasil Exposes 32 Million Customer Records
- Apathetic Cyber-Security: Data exposure and breach in major Bangladeshi companies
データ分析/データ集計
- Azure DatabricksとElasticsearchの連携 - Qiita
- KafkaからのデータをStructured Streamingで処理してElasticsearchに流す - Qiita
- 新サービス・JOURNAL(ジャーナル)開発秘話 - Speaker Deck
- How we solved ‘user selection’ to help merchants win business
- BA Insight’s ConnectivityHub Extends Elastic into the Enterprise Search Market | AI-driven intelligent enterprise search software
データ投入、可視化
- Kibana Canvasでオシャレに可視化しよう - Qiita
- Running a fluent-d cluster behind an AWS ELB for handling tcp input streams
運用Tips、トラブルシュート
- Elasticsearch 6.5 Backup and Restore - Qiita
- Elaschsearch 6.5 レプリカを無くす - Qiita
- Elasticsearch で indices をさくっとクローズしたりする方法 - Qiita
- How To Set Up an Elasticsearch, Fluentd and Kibana (EFK) Logging Stack on Kubernetes | DigitalOcean
- Java embedded Elasticsearch for integration testing
- elasticsearch 亿级数据检索案例与原理 - mikevictor - 博客园
- Day 1 - ELK 使用小技巧(第 3 期) - Elastic 中文社区
その他
- 2018年のElastic StackとElastic - @johtaniの日記 2nd
- Field Stats Plugin for Elasticsearch 6.x Released - Sematext
- What's New in Elastic Stack 6.5 | Logz.io
今週は以上です。
最新の情報を収集したい方向けに、情報収集に使用しているDiscordチャンネルを公開しています。ご興味ありましたら、こちらから参加ください。
また、Elasticsearchについてのツイート情報を閲覧できるKibanaダッシュボードをこちらで公開しています。以下のパスワードでログインするとダッシュボードオンリーユーザーとして閲覧できるはずです。
- ID: elasticlover
- password: watchtwitterinfo
Elastic Cloudの環境提供は@johtaniさんです。ご協力、ありがとうございます。提供いただいた経緯はこちらから確認できます。