深入golang runtime的调度

深入golang runtime的调度 zboya listomebao@gmail.com 版权所有,转载请注明原文地址。 很多gopher懂GPM,更多gopher不懂GPM! 相关项目地址在https://github.com/zboya/golang_runtime_reading,下文若有任何错误的地方欢迎指出。 深入golang runtime的调度 理解调度器启动 相关术语 主要源码文件 调度基本组件 G(goroutine) P(processor) M(machine) GPM的关系示意图 整体流程概览 go进程的启动 runtime调度器的启动 getg() 函数 g0和m0 mstartfn 真正的调度函数 schedule runtime.main 的执行 调度机制 调度架构概览图 基本思想 类比模型 关于G G的结构 G的新建 G的栈 G的状态 关于P P的结构 P的分配 P的状态 关于M M的结构 M的新建 辛勤工作的M M的状态 M的管理 抢占的实现 调度跟踪信息可视化 ref 理解调度器启动 本小节主要讲解golang程序启动到执行用户 package main 中的main函数的整个流程,也就是runtime启动到执行用户代码的流程。 [Read More]
Go 

golang二级指针操作链表

golang利用二级指针操作链表 以下所有观点都是个人愚见,有不同建议或补充的的欢迎emial我aboutme 导读 之前开了个项目来看golang runtime源码https://github.com/zboya/golang_runtime_reading,发现实现全局P链表的代码挺有趣的,遂研究记录一下。 先看个例子 package ptplist import ( "log" "testing" "unsafe" ) type puintptr uintptr //go:nosplit func (pp puintptr) ptr() *p { return (*p)(unsafe.Pointer(pp)) } //go:nosplit func (pp *puintptr) set(p *p) { *pp = puintptr(unsafe.Pointer(p)) } type p struct { id int link puintptr } var pidleList puintptr func pidleput(_p_ *p) { _p_.link = pidleList pidleList.set(_p_) } func pidleget() *p { _p_ := pidleList.ptr() if _p_ != nil { pidleList = _p_. [Read More]
Go 

gvisor的网络栈实现-简介

gvisor的网络栈实现-简介 这篇是一系列文章的第一篇,介绍网络栈的基础知识。文章打算从上层往下层写,后面打算的继续写的内容有: netstack-基本数据结构的实现 netstack-udp的实现 netstack-tcp的实现 netstack-ip的实现 netstack-link的实现 以下所有观点都是个人愚见,有不同建议或补充的的欢迎emialaboutme 原文章地址 gvisor简介 gvisor是google新推出一款沙箱运行时,他可以和docker和k8s无缝连接。 gVisor能够在保证轻量化优势的同时,提供与虚拟机类似的隔离效果。gVisor的核心为一套运行非特权普通进程的内核, 且支持大多数Linux系统调用。该内核使用Go编写,这主要是考虑到Go语言拥有良好的内存管理机制与类型安全性。 与在虚拟机当中一样,gVisor沙箱中运行的应用程序也将获得自己的内核与一组虚拟设备——这一点与主机及其它沙箱方案有所区别。 当然gvisor实现的不仅仅是一个完整的网络栈,还实现了文件系统等,但这里我只对网络栈感兴趣,所以也只讲网络栈的实现 netstack gvisor的网络实现在readme里有介绍,是另一个google项目,netstack, 详细介绍期源码前我们先复习一下网络栈的一些知识。 理论和现实 网络信息的传输其实很复杂,一个信息传到另一个地方,需要各种过五关斩六将。但庆幸的是,网络硬件已经帮我们做了大部分的事,我们只要考虑软件的事。 理论七层模型 +------------------------------+ | 应用层 | Application +------------------------------+ | 表示层 | Presentation +------------------------------+ | 会话层 | Session +------------------------------+ | 传输层 | Transport +------------------------------+ | 网络层 | Network +------------------------------+ | 链路层 | Link +------------------------------+ | 物理层 | Physical +------------------------------+ 现实五层模型(tcpip网络分层) +------------------------------+ | 应用层 | Application +------------------------------+ | 传输层 | Transport +------------------------------+ | 网络层 | Network +------------------------------+ | 链路层 | Link +------------------------------+ | 物理层 | Physical +------------------------------+ 现实中大部分的实现都是按tcpip网络分层来实现的,netstack也不例外,可以说现在的网络是tcpip的天下,据说史前公网上还是有其他协议的, 反正数据包不是用ip报文来传输的,但后来都被淘汰了,作为一个90后,我也只是听说,从来没见过除了ip之外的其他协议,即使有,现在也不必深究。 netstack其实只实现了链路层、网络层、传输层这三层。 [Read More]
Go 

golang在自定义的https服务器中启用pprof接口

以下所有观点都是个人愚见,有不同建议或补充的的欢迎emial, aboutme 原文章地址 pprof的简介 pprof是golang标准库里面的其中一个库,它通过其HTTP服务器得到运行时的分析数据,从而给pprof可视化工具提供数据分析来源。它可以用来分析性能消耗,分析内存泄漏,死锁等。 具体使用可以了解官方包pprof,那我如何在http中使用pprof?如何在已有http或者https服务上使用pprof呢? 这些答案在标准库找不到,随在此记录一下。 如何启动pprof 在官方包中已经给出了例子: package main import "net/http" import _ "net/http/pprof" // 初始化pprof func main() { // do something ... go func() { log.Println(http.ListenAndServe("localhost:6060", nil)) //启动http服务器 }() } 启动完后,就可以使用go自动的工具go tool pprof 如: go tool pprof http://localhost:6060/debug/pprof/heap // 获取堆的相关数据 go tool pprof http://localhost:6060/debug/pprof/profile // 获取30s内cpu的相关数据 go tool pprof http://localhost:6060/debug/pprof/block // 在你程序调用 runtime.SetBlockProfileRate ,查看goroutine阻塞的相关数据 go tool pprof http://localhost:6060/debug/pprof/mutex // 在你程序调用 runtime.SetMutexProfileFraction,查看谁占用mutex 为什么我自定义mux的http服务不能用? 启动自定义mux的http服务器 package main import ( "net/http" _ "net/http/pprof" ) func main() { // 启动一个自定义mux的http服务器 mux := http. [Read More]
Go 

在Golang中各种永远阻塞的姿势

在Golang中各种永远阻塞的姿势 Go的运行时的当前设计,假定程序员自己负责检测何时终止一个goroutine以及何时终止该程序。 可以通过调用os.Exit或从main()函数的返回来以正常方式终止程序。而有时候我们需要的是使程序阻塞在这一行。 使用sync.WaitGroup 一直等待直到WaitGroup等于0 package main import "sync" func main() { var wg sync.WaitGroup wg.Add(1) wg.Wait() } 空select select{}是一个没有任何case的select,它会一直阻塞 package main func main() { select{} } 死循环 虽然能阻塞,但会100%占用一个cpu。不建议使用 package main func main() { for {} } 用sync.Mutex 一个已经锁了的锁,再锁一次会一直阻塞,这个不建议使用 package main import "sync" func main() { var m sync.Mutex m.Lock() m.Lock() } os.Signal 系统信号量,在go里面也是个channel,在收到特定的消息之前一直阻塞 package main import ( "os" "syscall" "os/signal" ) func main() { sig := make(chan os. [Read More]
Go 

golang for语句完全指南

以下所有观点都是个人愚见,有不同建议或补充的的欢迎emialaboutme 原文章地址 关于for语句的疑问 for语句的规范 for语句的内部实现-array 问题解答 关于for语句的疑问 我们都知道在golang中,循环语句只有for这一个,在代码中写一个循环都一般都需要用到for(当然你用goto也是可以的), 虽然golang的for语句很方便,但不少初学者一样对for语句持有不少疑问,如: for语句一共有多少种表达式格式? for语句中临时变量是怎么回事?(为什么有时遍历赋值后,所有的值都等于最后一个元素) range后面支持的数据类型有哪些? range string类型为何得到的是rune类型? 遍历slice的时候增加或删除数据会怎么样? 遍历map的时候增加或删除数据会怎么样? 其实这里的很多疑问都可以看golang编程语言规范, 有兴趣的同学完全可以自己看,然后根据自己的理解来解答这些问题。 for语句的规范 for语句的功能用来指定重复执行的语句块,for语句中的表达式有三种: 官方的规范: ForStmt = "for" [ Condition | ForClause | RangeClause ] Block . Condition = Expression . ForClause = [ InitStmt ] “;” [ Condition ] “;” [ PostStmt ] . RangeClause = [ ExpressionList “=” | IdentifierList “:=” ] “range” Expression . 单个条件判断 形式: [Read More]
Go 

链表以及golang介入式链表的实现

链表以及golang介入式链表的实现 今天看tcp/ip协议栈的代码时看到一个双向链表,链表吗?听过它的顶顶大名,知道它是由节点构成的,每个节点还有个指针指向下一个节点,但是从来没自己实现过一个,没有实践就不能深刻理解,遂有此文。 以下所有观点都是个人愚见,有不同建议或补充的的欢迎emial我aboutme 何为链表? 链表(Linked list)是一种常见的基础数据结构,是一种线性表,但是并不会按线性的顺序存储数据,而是在每一个节点里存到下一个节点的指针(Pointer)。由于不必须按顺序存储,链表在插入的时候可以达到O(1)的复杂度,比另一种线性表顺序表快得多,但是查找一个节点或者访问特定编号的节点则需要O(n)的时间,而顺序表相应的时间复杂度分别是O(logn)和O(1)。 简单的说链表是一个具有逻辑顺序的线性表,每一个节点里存到下一个节点的指针。 图示 单链表 双向链表 链表有啥用? 因为链表插入很快,而且具有动态性,想添加几个元素就添加几个(内存空间足够),不像数组一样那么死板,正因为链表的灵活性,所有链表的用处是大大的有啊。 链表最适合用于频繁更新变化的数据,比如一个需要异步执行并且不可丢失的命令序列、一个需要进行实时加载与卸载的驱动,无序且数量未知,这个时候就需要链表结构来协助完成数据的管理。如果不需要过度关注数据的顺序,还可以用链表方便快捷地在任意一个地方插入或删除一个元素,并且不会影响到其它的元素。 又或者我在今天看tcp/ip源码中,链表用来构造队列,作为数据段的队列。我想链表用于队列应该是最多的。如果你看过linux内核源码,应该会发现linux内核中多处使用链表这种结构。 go标准库的双向链表 golang的标准库中实现了一个双向链表,该链表可以存储任何数据,先看看使用标准库链表的例子: package list_test import ( "container/list" "fmt" "testing" ) func TestList(t *testing.T) { // Create a new list and put some numbers in it. l := list.New() e4 := l.PushBack(4) e1 := l.PushFront(1) l.InsertBefore(3, e4) l.InsertAfter(2, e1) // Iterate through list and print its contents. for e := l.Front(); e != nil; e = e. [Read More]
Go 

golang string和[]byte的对比

golang string和[]byte的对比 为啥string和[]byte类型转换需要一定的代价? 为啥内置函数copy会有一种特殊情况copy(dst []byte, src string) int? string和[]byte,底层都是数组,但为什么[]byte比string灵活,拼接性能也更高(动态字符串拼接性能对比)? 今天看了源码探究了一下。 以下所有观点都是个人愚见,有不同建议或补充的的欢迎emial我aboutme 何为string? 什么是字符串?标准库builtin的解释: type string string is the set of all strings of 8-bit bytes, conventionally but not necessarily representing UTF-8-encoded text. A string may be empty, but not nil. Values of string type are immutable. 简单的来说字符串是一系列8位字节的集合,通常但不一定代表UTF-8编码的文本。字符串可以为空,但不能为nil。而且字符串的值是不能改变的。 不同的语言字符串有不同的实现,在go的源码中src/runtime/string.go,string的定义如下: type stringStruct struct { str unsafe.Pointer len int } 可以看到str其实是个指针,指向某个数组的首地址,另一个字段是len长度。那到这个数组是什么呢? 在实例化这个stringStruct的时候: func gostringnocopy(str *byte) string { ss := stringStruct{str: unsafe. [Read More]
Go 

Golang walkthrough: io package

Golang walkthrough: io package Go是用于处理字节的编程语言。 无论您有字节列表,字节流还是单个字节,Go都可以轻松处理。 从这些简单的原语,我们构建了我们的抽象和服务。 io包是标准库中最基础的包之一。 它提供了一组用于处理字节流的接口和助手。 这篇文章是一系列演练的一部分,可以帮助您更好地了解标准库。 虽然官方的文档提供了大量的信息,但是在现实世界的环境中还是很难理解库的意思。 本系列旨在提供如何在每天应用程序中使用标准库包的上下文。 如果您有任何问题或意见,可以在Twitter上的@benbjohnson与我联系。(当然也可以联系我,listomebao@gmail.com) Reading bytes 字节有两个最基本的操作,读和写。让我们先看如何读字节。 Reader interface 从数据流读取字节最基本的结构是Reader接口: type Reader interface { Read(p []byte) (n int, err error) } 该接口贯穿在整个标准库中的实现,从网络连接到文件都是内存片的包装。 读取器通过将缓冲区p传递给Read()方法,以便我们可以重用相同的字节。 如果Read()返回一个字节片而不是接受一个参数,那么读者将不得不在每个Read()调用上分配一个新的字节片。 这将对垃圾收集器造成严重破坏。 Reader接口的一个问题是它附带了一些细微的规则。 首先,当流完成时,它返回一个io.EOF错误作为使用的正常部分。 这可能会让初学者感到困惑。 其次,您的缓冲区不能保证填写。 如果您传递8字节的片段,则可以在0到8个字节之间的任何地方接收。 处理部分读取可能是凌乱和容易出错的。 幸运的是有这些问题的帮助函数。 Improving reader guarantees 假设你有一个协议你正在解析,你知道你需要从阅读器读取一个8字节的uint64值。 在这种情况下,最好使用io.ReadFull(),因为你有一个固定的大小读取: func ReadFull(r Reader, buf []byte) (n int, err error) 此功能确保您的缓冲区在返回前完全填充数据。 如果您的缓冲区部分读取,那么您将收到一个io.ErrUnexpectedEOF。 如果没有读取字节,则返回io.EOF。 这个简单的保证可以极大地简化你的代码。 要读取8个字节,您只需要这样做: buf := make([]byte, 8) if _, err := io. [Read More]
Go 

平时整理的一些golang代码片段

golang 代码片段 by boya 老司机请忽略! 用chan实现斐波那契数列 import "fmt" func fibonacci(c, quit chan int) { x, y := 0, 1 for { select { case c <- x: x, y = y, x+y case <-quit: fmt.Println("quit") return } } } func main() { c := make(chan int) quit := make(chan int) go func() { for i := 0; i < 10; i++ { fmt.Println(<-c) } quit <- 0 }() fibonacci(c, quit) } 字符串的简单映射 func main() { rot13 := func(r rune) rune { switch { case r >= 'A' && r <= 'Z': return 'A' + (r-'A'+13)%26 case r >= 'a' && r <= 'z': return 'a' + (r-'a'+13)%26 } return r } fmt. [Read More]
Go