1、go中make和new区别

new:

  1. 分配内存。内存里存的值是对应类型的零值。
  2. 只有一个参数。参数是分配的内存空间所存储的变量类型,Go语言里的任何类型都可以是new的参数,比如int, 数组,结构体,甚至函数类型都可以。
  3. 返回的是指针。

make:

  1. 分配和初始化内存。
  2. 只能用于slice, map和chan这3个类型,不能用于其它类型。如果是用于slice类型,make函数的第2个参数表示slice的长度,这个参数必须给值。
  3. 返回的是原始类型,也就是slice, map和chan,不是返回指向slice, map和chan的指针。

2、进程、线程、协程区别

进程:一个具有特定功能的程序运行在一个数据集上的一次动态过程。是操作系统进行资源分配和调度的一个独立单位,是应用程序运行的载体。(QQ、微信等等)

线程:一个进程可以有多个线程,每个线程会共享父进程的资源(创建线程开销占用比进程小很多,可创建的数量也会很多),有时被称为轻量级进程(Lightwight Process,LWP),是操作系统调度(CPU调度)执行的最小单位。

协程:一种比线程更加轻量级的存在,协程不是被操作系统内核所管理,而完全是由程序所控制(也就是在用户态执行)。这样带来的好处就是性能得到了很大的提升,不会像线程切换那样消耗资源。

3、go中channel底层是什么

什么是channel?

chan是Go中的一种特殊类型,不同的协程可以通过channel来进行数据交互。

channel分为有缓冲区与无缓冲区两种

channel底层?

channel是基于环形队列实现的。

type hchan struct {qcount   uint           // 队列中的总数据dataqsiz uint           // 循环队列的大小buf      unsafe.Pointer // 指向环形队列的元素数组elemsize uint16closed   uint32elemtype *_type // 元素类型sendx    uint   // 发送指数recvx    uint   // 收到指数recvq    waitq  // 接收列表sendq    waitq  // 发生列表// lock protects all fields in hchan, as well as several// fields in sudogs blocked on this channel.//// Do not change another G's status while holding this lock// (in particular, do not ready a G), as this can deadlock// with stack shrinking.lock mutex
}

图:未完待补充

4、go derfer执行顺序

 1、多个defer的执行顺序为“后进先出”;

2、defer、return、返回值三者的执行逻辑应该是:return最先执行,return负责将结果写入返回值中;接着defer开始执行一些收尾工作;最后函数携带当前返回值退出。

我们知道defer后面一定要接一个函数的,所以defer的数据结构跟一般函数类似,也有栈地址、程序计数器、函数地址等等。
与函数不同的一点是它含有一个指针,可用于指向另一个defer,每个goroutine数据结构中实际上也有一个defer指针,该指针指向一个defer的单链表,每次声明一个defer时就将defer插入到单链表表头,每次执行defer时就从单链表表头取出一个defer执行。

5、go如何用两个协程交替打印出123456

协程1打印基数,协程2打印偶数,用一个channel实现
代码如下:
package mainimport ("fmt""sync"
)//打印奇数
func PrintOddNumber(wg *sync.WaitGroup, ch chan int, num int) {defer wg.Done()for i := 0; i <= num; i++ {ch <- iif i%2 != 0 {fmt.Println("奇数:", i)}}
}//打印偶数
func PrintEvenNumber(wg *sync.WaitGroup, ch chan int, num int) {defer wg.Done()for i := 1; i <= num; i++ {<-chif i%2 == 0 {fmt.Println("偶数:", i)}}
}
func main() {wg := sync.WaitGroup{}ch := make(chan int)wg.Add(1)go PrintOddNumber(&wg, ch, 10)go PrintEvenNumber(&wg, ch, 10)wg.Wait()
}
结果:
奇数: 1
偶数: 2
奇数: 3
偶数: 4
奇数: 5
偶数: 6
奇数: 7
偶数: 8
奇数: 9
偶数: 10

 6、go中slice和数组的区别

1. 数组定长,定义的时候就需要确定。切片长度不定,append时会自动扩容

2. 相同大小数组可以赋值,会拷贝全部内容。slice赋值和指针一样。数组和slice之间不能相互赋值。当然slice有自己的copy函数

3. 数组也可以进行切片,返回值是一个slice,改变slice时会同步修改数组内容,相当于取得了这个数组的指针

7、go中channel在你们项目中使用的场景举例

1、消息传递、消息过滤

2、信号广播

3、事件订阅与广播

4、请求、响应转发

5、任务分发

8、go中使用chan要注意什么 

1、当需要不断从channel读取数据时,最好使用for-range读取channel,这样既安全又便利,当channel关闭时,for循环会自动退出,无需主动监测channel是否关闭,可以防止读取已经关闭的channel,造成读到数据为通道所存储的数据类型的零值。

例如:for x := range ch {//}

2、读已关闭的channel会造成零值 ,如果不确定channel,需要使用ok进行检测。

if v, ok := <-chan;ok{///}

3、select可以同时监控多个通道的情况,只处理未阻塞的case。当通道为nil时,对应的case永远为阻塞,无论读写。特殊关注:普通情况下,对nil的通道写操作是要panic的

select {case <-ch://default://}

4、使代码更易读、更易维护,防止只读协程对通道进行写数据,但通道已关闭,造成panic。

5、有缓冲通道是异步的,无缓冲通道是同步的,有缓冲通道可供多个协程同时处理,在一定程度可提高并发性。

6、使用selecttime.After,看操作和定时器哪个先返回,处理先完成的,就达到了超时控制的效果

func WorkWithOutTime(t time.Duration) (int, error) {select {case ret := <-Work():return ret, nilcase <-time.After(t):return 0, errors.New("timeout")}
}
func Work() <-chan int {ch := make(chan int)go func() {//}()return ch
}

7、是为操作加上超时的扩展,这里的操作是channel的读或写

func OnlyRead(ch chan int) {select {case <-ch://default://}
}

8、channel本质上传递的是数据的拷贝,拷贝的数据越小传输效率越高,传递结构体指针,比传递结构体更高效

9、说一下go中的CSP

CSP(communicating sequential processes)并发模型:Go语言特有且推荐使用的。

Go的CSP并发模型,是通过goroutine和channel来实现的。

不同于传统的多线程通过共享内存来通信,CSP讲究的是“以通信的方式来共享内存”。

普通的线程并发模型,就是像Java、C++、或者Python,他们线程间通信都是通过共享内存的方式来进行的。非常典型的方式就是,在访问共享数据(例如数组、Map、或者某个结构体或对象)的时候,通过锁来访问,因此,在很多时候,衍生出一种方便操作的数据结构,叫做“线程安全的数据结构”。

Go的CSP并发模型,是通过goroutine和channel来实现的。

goroutine 是Go语言中并发的执行单位。可以理解为用户空间的线程。
channel是Go语言中不同goroutine之间的通信机制,即各个goroutine之间通信的”管道“,有点类似于Linux中的管道。

M:是内核线程

P : 是调度协调,用于协调M和G的执行,内核线程只有拿到了 P才能对goroutine继续调度执行,一般都是通过限定P的个数来控制golang的并发度

G : 是待执行的goroutine,包含这个goroutine的栈空间

Gn : 灰色背景的Gn 是已经挂起的goroutine,它们被添加到了执行队列中,然后需要等待网络IO的goroutine,当P通过 epoll查询到特定的fd的时候,会重新调度起对应的,正在挂起的goroutine。

Golang为了调度的公平性,在调度器加入了steal working 算法 ,在一个P自己的执行队列,处理完之后,它会先到全局的执行队列中偷G进行处理,如果没有的话,再会到其他P的执行队列中抢G来进行处理
csp很好的例子:生产者和消费者。

10、说一下go中channel是不是线程安全的,什么情况下会变成线程不安全

Channel是Go中的一个核心类型,可以把它看成一个管道,通过它并发核心单元就可以发送或者接收数据进行通讯(communication),Channel也可以理解是一个先进先出的队列,通过管道进行通信。

Golang的Channel,发送一个数据到Channel 和 从Channel接收一个数据 都是 原子性的。而且Go的设计思想就是:不要通过共享内存来通信,而是通过通信来共享内存,前者就是传统的加锁,后者就是Channel。也就是说,设计Channel的主要目的就是在多任务间传递数据的,这当然是安全的

11、说一下map是有序的吗?如何实现有序

1、由于golang map内部存储机制是以key为hash的结构来实现,所以顺序是混乱的

2、如果希望是有顺序的,可以把 key 转移至 slice,将slice 进行排序,然后输出。

var keys []stringfor key := range maps {keys = append(keys, key)}sort.Strings(keys) //内值排序for _, key := range keys {fmt.Printf("%s:%v\n", key, maps[key])}

 12、如下程序添加一段代码让程序不报panic异常。

func test() {//添加一段程序捕获panic异常}
func main() {defer test()panic(1)
}答案:
func test() {//添加一段程序捕获panic异常recover()
}
func main() {defer test()panic(1)
}

13、使用go语言将数组中12300045变成12345000

func MobileNnm(arr []int) []int {arr2 := make([]int, 0)oneCount := 0for _, v := range arr {if v == 0 {oneCount++} else {arr2 = append(arr2, v)}}for i := 0; i < oneCount; i++ {arr2 = append(arr2, 0)}return arr2
}
func main() {//使用go语言将12300045变成12345000val1 := []int{1, 2, 3, 0, 0, 0, 4, 5}val2 := MobileNnm(val1)fmt.Println(val2)
}
结果:[1 2 3 4 5 0 0 0]

14、算法题

题目:1、(( 结果是false    2、(())() 是true   3、((()))())是false  用go实现思路:压栈找到匹配的出栈,找不到还放入栈中,直到栈为空,代表都匹配上了。
代码如下:(仅供参考)
func main() {//题目:1、(( 结果是false//2、(())() true//3、((()))())false  用go实现s0 := []string{"(", "("}fmt.Println(IsMatch(s0))//falses1 := []string{"(", "(", ")", ")", "(", ")"}fmt.Println(IsMatch(s1)) //trues2 := []string{"(", "(", ")", ")", "(", ")", ")"}fmt.Println(IsMatch(s2))//false
}
func IsMatch(str []string) bool {//压栈的思想if len(str) == 0 {return false}stack := NewStack()for _, v := range str {if stack.IsEmpty() {stack.Push(v)} else {sp := stack.Pop()if sp == "(" && string(v) == ")" {continue} else {stack.Push(sp)stack.Push(v)}}}if stack.IsEmpty() {return true}return false
}type Element interface{} //可存入任何类型
type Stack struct {list []Element
}//初始化栈
func NewStack() *Stack {return &Stack{list: make([]Element, 0),}
}
//判断栈是否空
func (s *Stack) IsEmpty() bool {if len(s.list) == 0 {return true} else {return false}
}//入栈
func (s *Stack) Push(x interface{}) {s.list = append(s.list, x)
}//出栈
func (s *Stack) Pop() Element {if len(s.list) <= 0 {fmt.Println("Stack is Empty")return nil} else {ret := s.list[len(s.list)-1]s.list = s.list[:len(s.list)-1]return ret}
}

15、算法题

题目:上楼梯有一阶和两阶
例如3层楼梯有如下种
1  2  1
1  1  2
1    n阶有多少种:代码如下:(仅供参考)
func main() {n := Upstairs(3)fmt.Println(n)
}var mapData = make(map[int]int, 0)func Upstairs(n int) int {if n == 1 {return 1}if n == 2 {return 2}if _, ok := mapData[n]; !ok {mapData[n] = Upstairs(n-1) + Upstairs(n-2)}return mapData[n]
}

16、用go实现单链表的反转

题目:单链表12345678910反转成10987654321
代码如下:(仅供参考)
func main() {//实现单链表的反转例如12345678910变成10987654321var head = new(ListNode)CreateNode(head, 10)PrintNode("前:", head)yyy := reverseList(head)PrintNode("后:", yyy)
}type ListNode struct {data interface{}next *ListNode
}func reverseList(head *ListNode) *ListNode {cur := headvar pre *ListNodefor cur != nil {cur.next, pre, cur = pre, cur, cur.next}return pre
}
func CreateNode(node *ListNode, max int) {cur := nodefor i := 1; i <= max; i++ {cur.next = &ListNode{}cur.data = icur = cur.next}
}//打印链表的方法
func PrintNode(str string, node *ListNode) {fmt.Print(str)for cur := node; cur != nil; cur = cur.next {if cur.data != nil {fmt.Print(cur.data, " ")}}fmt.Println()
}
结果:
前:1 2 3 4 5 6 7 8 9 10
后:10 9 8 7 6 5 4 3 2 1

17、算法题(在线求答案)

题目:
输入文件构成规则如下:
1. 每行代表一条记录,字段之间以逗号(,)分隔
2. 若字段内容包含逗号(,),则以双引号包围该字段
3. 若字段内容包含双引号("),则以双引号包围该字段,字段内的双引号由一个变两个
请参照上面三条规则,编写一个解析程序,将解析后的记录内容按行输出,字段之间以TAB(\t)分隔,2小时内完成示例:John,33,"足球,摄影",New YorkJohn,33,"足球,""摄影",New York
输出:John 33 足球,摄影 New YorkJohn 33 足球,"摄影 New York输入:
2,John,45,"足球,摄影",New York
3,Carter Job,33,"""健身"",远足","河北,石家庄"
4,Steve,33,"大屏幕164""","DC""Home"""
5,"Jul,y",33,Football,Canada求输出!

18、slice和map区别代码输出题

题目一:
func main() {s1 := []int{1, 2, 3, 4, 5}changeslice(s1)fmt.Println(s1)//?s1的结果会变化吗?fmt.Println(len(s1), cap(s1))//?s1长度和容量会变化吗?m1 := map[int]int{1: 1, 2: 2, 3: 3, 4: 4}changeMap(m1)  fmt.Println(m1) //?m1中key等于1的值会变化吗?fmt.Println(len(m1))//?m1长度和容量会变化吗?
}
func changeslice(s []int) {s[0] = 2s = append(s, 7, 8, 9, 10)
}
func changeMap(m map[int]int) {m[1] = 2m[5] = 5m[6] = 6
}
答案:s1的值会变化,但是长度和容量不会变化。m1的值会变化,长度会变化。
切记:map 没有容量限制,所以内置函数 cap 也不接受 map 类型题目二:
func main() {m := make(map[int]int)mdMap(m)fmt.Println(m)  //输出结果
}func mdMap(m map[int]int) {m[1] = 100m[2] = 200
}
---------------------------------
func main() {var m1 map[int]intmdMap(m1)fmt.Println(m1)//输出的结果
}func mdMap(m map[int]int) {m = make(map[int]int)m[1] = 100m[2] = 200
}
答案:m结果map[2:200 1:100]     m1的结果map[]

19、mysql有那几种存储引擎

MyISAM:

创建一个myisam存储引擎的表的时候回出现三个文件

1.tb_demo.frm,存储表定义;  2.tb_demo.MYD,存储数据;  3.tb_demo.MYI,存储索引。

MyISAM表无法处理事务,这就意味着有事务处理需求的表,不能使用MyISAM存储引擎。

MyISAM存储引擎特别适合在以下几种情况下使用:

1.选择密集型的表。MyISAM存储引擎在筛选大量数据时非常迅速,这是它最突出的优点。

2.插入密集型的表。MyISAM的并发插入特性允许同时选择和插入数据。例如:MyISAM存储引擎很适合管理邮件或Web服务器日志数据。

InnoDB:

InnoDB是一个健壮的事务型存储引擎MySQL 5.6.版本以后InnoDB就是作为默认的存储引擎。

InnoDB还引入了行级锁定和外键约束,在以下场合下,使用InnoDB是最理想的选择:

1. 更新密集的表。InnoDB存储引擎特别适合处理多重并发的更新请求。

2.事务。InnoDB存储引擎是支持事务的标准MySQL存储引擎。

3.自动灾难恢复。与其它存储引擎不同,InnoDB表能够自动从灾难中恢复。

4.外键约束。MySQL支持外键的存储引擎只有InnoDB。

5.支持自动增加列AUTO_INCREMENT属性。

MEMORY:

使用MySQL Memory存储引擎的出发点是速度。为得到最快的响应时间,采用的逻辑存储介质是系统内存。虽然在内存中存储表数据确实会提供很高的性能,但当mysqld守护进程崩溃时,所有的Memory数据都会丢失。获得速度的同时也带来了一些缺陷。它要求存储在Memory数据表里的数据使用的是长度不变的格式,这意味着不能使用BLOB和TEXT这样的长度可变的数据类型,VARCHAR是一种长度可变的类型,但因为它在MySQL内部当做长度固定不变的CHAR类型,所以可以使用。

一般在以下几种情况下使用Memory存储引擎:

1.目标数据较小,而且被非常频繁地访问。在内存中存放数据,所以会造成内存的使用,可以通过参数max_heap_table_size控制Memory表的大小,设置此参数,就可以限制Memory表的最大大小。

2.如果数据是临时的,而且要求必须立即可用,那么就可以存放在内存表中。

3.存储在Memory表中的数据如果突然丢失,不会对应用服务产生实质的负面影响。Memory同时支持散列索引和B树索引。B树索引的优于散列索引的是,可以使用部分查询和通配查询,也可以使用<、>和>=等操作符方便数据挖掘。散列索引进行“相等比较”非常快,但是对“范围比较”的速度就慢多了,因此散列索引值适合使用在=和<>的操作符中,不适合在<或>操作符中,也同样不适合用在order by子句中

MERGE:

MERGE存储引擎是一组MyISAM表的组合,这些MyISAM表结构必须完全相同,尽管其使用不如其它引擎突出,但是在某些情况下非常有用。说白了,Merge表就是几个相同MyISAM表的聚合器;Merge表中并没有数据,对Merge类型的表可以进行查询、更新、删除操作,这些操作实际上是对内部的MyISAM表进行操作。Merge存储引擎的使用场景。对于服务器日志这种信息,一般常用的存储策略是将数据分成很多表,每个名称与特定的时间端相关。例如:可以用12个相同的表来存储服务器日志数据,每个表用对应各个月份的名字来命名。当有必要基于所有12个日志表的数据来生成报表,这意味着需要编写并更新多表查询,以反映这些表中的信息。与其编写这些可能出现错误的查询,不如将这些表合并起来使用一条查询,之后再删除Merge表,而不影响原来的数据,删除Merge表只是删除Merge表的定义,对内部的表没有任何影响。

ARCHIVE:

rchive是归档的意思,在归档之后很多的高级功能就不再支持了,仅仅支持最基本的插入和查询两种功能。在MySQL 5.5版以前,Archive是不支持索引,但是在MySQL 5.5以后的版本中就开始支持索引了。Archive拥有很好的压缩机制,它使用zlib压缩库,在记录被请求时会实时压缩,所以它经常被用来当做仓库使用。

20、mysql中事务隔离级别有哪几种

  • 读未提交(READ UNCOMITTED)
  • 读提交(READ COMMITTED)
  • 可重复读(REPEATABLE READ)
  • 串行化(SERIALIZABLE)
  • 隔离级别 脏读 不可重复读 幻读
    READ UNCOMITTED
    READ COMMITTED ×
    REPEATABLE READ × ×
    SERIALIZABLE × × ×

    mysql数据库事务的隔离级别有4个,而默认的事务处理级别就是【REPEATABLE-READ】,也就是可重复读

21、 B树、B+tree、Hash有什么区别

B树是一种多路自平衡搜索树,它类似普通的二叉树,但是B书允许每个节点有更多的子节点。B树示意图如下:

B树的特点:

  1. 所有键值分布在整个树中
  2. 任何关键字出现且只出现在一个节点中
  3. 搜索有可能在非叶子节点结束
  4. 在关键字全集内做一次查找,性能逼近二分查找算法
  5. 树深度会很深,因为树顶放到元素比较少导致,检索元素比较慢。

缺点:

业务数据的大小可能远远超过了索引数据的大小,每次为了查找对比计算,需要把数据加载到内存以及 CPU 高速缓存中时,都要把索引数据和无关的业务数据全部查出来。本来一次就可以把所有索引数据加载进来,现在却要多次才能加载完。如果所对比的节点不是所查的数据,那么这些加载进内存的业务数据就毫无用处,全部抛弃。

B+Tree:

从图中也可以看到,B+树与B树的不同在于:

  1. 所有关键字存储在叶子节点,非叶子节点不存储真正的data
  2. 为所有叶子节点增加了一个链指针
  3. 树顶可以放很多元素,树的深度比较矮,检索元素比较快。

缺点:

仍然有一个致命的缺陷,那就是它的索引数据与业务绑定在一块,而业务数据的大小很有可能远远超过了索引数据,这会大大减小一次 I/O 有用数据的获取,间接的增加 I/O 次数去获取有用的索引数据

Hash:

特点:数组+链表

1、查询单条数据很快,先解析出hash值,根据hash找到链表,然后找到索引最后根据索引找到数据。

缺点:

  1. 容易hash碰撞
  2. Hash索引仅仅能满足“=”,“IN”,“<=>”查询,不能使用范围查询
  3. 联合索引中,Hash索引不能利用部分索引键查询。
  4. Hash索引无法避免数据的排序操作
  5. Hash索引任何时候都不能避免表扫描
  6. Hash索引遇到大量Hash值相等的情况后性能会下降

22、 Mysql 中 MyISAM 和 InnoDB 的区别有哪些?

  1. InnoDB支持事务,MyISAM不支持
  2. 对于InnoDB每一条SQL语言都默认封装成事务,自动提交,这样会影响速度,所以最好把多条SQL语言放在begin和commit之间,组成一个事务;
  3. InnoDB支持外键,而MyISAM不支持。对一个包含外键的InnoDB表转为MYISAM会失败;
  4. InnoDB是聚集索引,数据文件是和索引绑在一起的,必须要有主键,通过主键索引效率很高。
  5. 但是辅助索引需要两次查询,先查询到主键,然后再通过主键查询到数据。因此主键不应该过大,因为主键太大,其他索引也都会很大。
  6. 而MyISAM是非聚集索引,数据文件是分离的,索引保存的是数据文件的指针。主键索引和辅助索引是独立的。
  7. InnoDB不保存表的具体行数,执行select count(*) from table时需要全表扫描。而MyISAM用一个变量保存了整个表的行数,执行上述语句时只需要读出该变量即可,速度很快;
  8. Innodb不支持全文索引,而MyISAM支持全文索引,查询效率上MyISAM要高

23、 go向关闭的channel发送和读取数据是否报错

package mainimport "fmt"//向已关闭的通道读取数不会报错
func main1() {var ch = make(chan int)go func() {close(ch)}()fmt.Println(<-ch)
}//向已关闭的通道发送数据报panic: send on closed channel
func main2() {var ch = make(chan int)go func() {close(ch)}()ch <- 1
}//关闭通道向有缓存区接收数据会报错
func main3() {var ch = make(chan int, 10)go func() {close(ch)}()fmt.Println(<-ch)
}//关闭通道向有缓冲区发送数据会报错panic:send on closed channel
func main4() {var ch = make(chan int, 10)go func() {close(ch)}()ch <- 1
}//关闭通道向有缓冲区循环发送数据会报错 panic: send on closed channel
func main() {var ch = make(chan int, 10)go func() {close(ch)}()for {ch <- 1}
}

24、Golang并发模型有几种

控制并发有三种种经典的方式,一种是通过channel通知实现并发控制 一种是WaitGroup,另外一种就是Context。

1、无缓冲通道

无缓冲的通道指的是通道的大小为0,也就是说,这种类型的通道在接收前没有能力保存任何值,它要求发送 goroutine 和接收 goroutine 同时准备好,才可以完成发送和接收操作。

从上面无缓冲的通道定义来看,发送 goroutine 和接收 gouroutine 必须是同步的,同时准备后,如果没有同时准备好的话,先执行的操作就会阻塞等待,直到另一个相对应的操作准备好为止。这种无缓冲的通道我们也称之为同步通道。

正式通过无缓冲通道来实现多 goroutine 并发控制

func main() {ch := make(chan instruct{})go func() {ch <- struct{}{}}()fmt.Println(<-ch)
}

当主 goroutine 运行到 <-ch 接受 channel 的值的时候,如果该 channel 中没有数据,就会一直阻塞等待,直到有值。 这样就可以简单实现并发控制

2. 通过sync包中的WaitGroup实现并发控制

在 sync 包中,提供了 WaitGroup ,它会等待它收集的所有 goroutine 任务全部完成,在主 goroutine 中 Add(delta int) 索要等待goroutine 的数量。在每一个 goroutine 完成后 Done() 表示这一个goroutine 已经完成,当所有的 goroutine 都完成后,在主 goroutine 中 WaitGroup 返回返回。

  func main() {var wg sync.WaitGroup// 开N个后台打印线程for i := 0; i < 10; i++ {wg.Add(1)go func() {fmt.Println("你好, 世界")wg.Done()}()}// 等待N个后台线程完成wg.Wait()}

3. 在Go 1.7 以后引进的强大的Context上下文,实现并发控制

3.1 简介

在一些简单场景下使用 channel 和 WaitGroup 已经足够了,但是当面临一些复杂多变的网络并发场景下 channel 和 WaitGroup 显得有些力不从心了。比如一个网络请求 Request,每个 Request 都需要开启一个 goroutine 做一些事情,这些 goroutine 又可能会开启其他的 goroutine,比如数据库和RPC服务。所以我们需要一种可以跟踪 goroutine 的方案,才可以达到控制他们的目的,这就是Go语言为我们提供的 Context,称之为上下文非常贴切,它就是goroutine 的上下文。它是包括一个程序的运行环境、现场和快照等。每个程序要运行时,都需要知道当前程序的运行状态,通常Go 将这些封装在一个 Context 里,再将它传给要执行的 goroutine 。context 包主要是用来处理多个 goroutine 之间共享数据,及多个 goroutine 的管理。

3.2 package context

context 包的核心是 struct Context,接口声明如下:

// A Context carries a deadline, cancelation signal, and request-scoped values
// across API boundaries. Its methods are safe for simultaneous use by multiple
// goroutines.
type Context interface {// Done returns a channel that is closed when this `Context` is canceled// or times out.Done() <-chan struct{}// Err indicates why this Context was canceled, after the Done channel// is closed.Err() error// Deadline returns the time when this Context will be canceled, if any.Deadline() (deadline time.Time, ok bool)// Value returns the value associated with key or nil if none.Value(key interface{}) interface{}
}
  • Done() 返回一个只能接受数据的channel类型,当该context关闭或者超时时间到了的时候,该channel就会有一个取消信号
  • Err() 在Done() 之后,返回context 取消的原因。
  • Deadline() 设置该context cancel的时间点
  • Value() 方法允许 Context 对象携带request作用域的数据,该数据必须是线程安全的。

Context 对象是线程安全的,你可以把一个 Context 对象传递给任意个数的 gorotuine,对它执行 取消 操作时,所有 goroutine 都会接收到取消信号。

一个 Context 不能拥有 Cancel 方法,同时我们也只能 Done channel 接收数据。
背后的原因是一致的:接收取消信号的函数和发送信号的函数通常不是一个。
一个典型的场景是:父操作为子操作操作启动 goroutine,子操作也就不能取消父操作。

3.4 context例子

当然,想要知道 Context 包是如何工作的,最好的方法是看一个例子。

func childFunc(cont context.Context, num *int) {ctx, _ := context.WithCancel(cont)for {select {case <-ctx.Done():fmt.Println("child Done : ", ctx.Err())return}}
}func main() {gen := func(ctx context.Context) <-chan int {dst := make(chan int)n := 1go func() {for {select {case <-ctx.Done():fmt.Println("parent Done : ", ctx.Err())return // returning not to leak the goroutinecase dst <- n:n++go childFunc(ctx, &n)}}}()return dst}ctx, cancel := context.WithCancel(context.Background())for n := range gen(ctx) {fmt.Println(n)if n >= 5 {break}}cancel()time.Sleep(5 * time.Second)
}

在上面的例子中,主要描述的是通过一个channel实现一个为循环次数为5的循环,
在每一个循环中产生一个goroutine,每一个goroutine中都传入context,在每个goroutine中通过传入ctx创建一个Context,并且通过select一直监控该Context的运行情况,当在父Context退出的时候,代码中并没有明显调用子ContextCancel函数,但是分析结果,子Context还是被正确合理的关闭了,这是因为,所有基于这个Context或者衍生的子Context都会收到通知,这时就可以进行清理操作了,最终释放goroutine,这就优雅的解决了goroutine启动后不可控的问题。

3.5 Context 使用原则

  • 不要把Context放在结构体中,要以参数的方式传递
  • Context作为参数的函数方法,应该把Context作为第一个参数,放在第一位。
  • 给一个函数方法传递Context的时候,不要传递nil,如果不知道传递什么,就使用context.TODO
  • ContextValue相关方法应该传递必须的数据,不要什么数据都使用这个传递
  • Context是线程安全的,可以放心的在多个goroutine中传递

 25、go分布式锁有几种

1 、进程内加锁

想要得到正确的结果的话,要把对计数器(counter)的操作代码部分加上锁:
// ... 省略之前部分
var wg sync.WaitGroup
var l sync.Mutex
for i := 0; i < 1000; i++ {wg.Add(1)go func () {defer wg.Done()l.Lock()counter++l.Unlock()}()
}
wg.Wait()
println(counter)
// ... 省略之后部分
这样就可以稳定地得到计算结果了:
❯❯❯ go run local_lock.go
1000

2、trylock

在某些场景,我们只是希望一个任务有单一的执行者。而不像计数器场景一样,所有goroutine都执行
成功。后来的goroutine在抢锁失败后,需要放弃其流程。这时候就需要trylock了。
trylock顾名思义,尝试加锁,加锁成功执行后续流程,如果加锁失败的话也不会阻塞,而会直接返回
加锁的结果。在Go语言中我们可以用大小为1的Channel来模拟trylock:

package main
import (
"sync"
)
type Lock struct {c chan struct{}
}// NewLock generate a try lock
func NewLock() Lock {var l Lockl.c = make(chan struct{}, 1)l.c <- struct{}{}return l
}// Lock try lock, return lock result
func (l Lock) Lock() bool {lockResult := falseselect {case <-l.c:lockResult = truedefault:}return lockResult
}// Unlock , Unlock the try lock
func (l Lock) Unlock() {l.c <- struct{}{}
}

因为我们的逻辑限定每个goroutine只有成功执行了 Lock  才会继续执行后续逻辑,因此
在 Unlock  时可以保证Lock结构体中的channel一定是空,从而不会阻塞,也不会失败。上面的代
码使用了大小为1的channel来模拟trylock,理论上还可以使用标准库中的CAS来实现相同的功能且
成本更低,读者可以自行尝试。
在单机系统中,trylock并不是一个好选择。因为大量的goroutine抢锁可能会导致CPU无意义的资源
浪费。有一个专有名词用来描述这种抢锁的场景:活锁。
活锁指的是程序看起来在正常执行,但实际上CPU周期被浪费在抢锁,而非执行任务上,从而程序整体
的执行效率低下。活锁的问题定位起来要麻烦很多。所以在单机场景下,不建议使用这种锁。

3、基于Redis的setnx

在分布式场景下,我们也需要这种“抢占”的逻辑,这时候怎么办呢?我们可以使用Redis提供
的 setnx  命令:


package mainimport (
"fmt"
"sync"
"time""github.com/go-redis/redis"
)func incr() {client := redis.NewClient(&redis.Options{Addr:     "localhost:6379",Password: "", // no password setDB:       0,  // use default DB})var lockKey = "counter_lock"var counterKey = "counter"// lockresp := client.SetNX(lockKey, 1, time.Second*5)lockSuccess, err := resp.Result()if err != nil || !lockSuccess {fmt.Println(err, "lock result: ", lockSuccess)return}// counter ++getResp := client.Get(counterKey)cntValue, err := getResp.Int64()if err == nil {cntValue++resp := client.Set(counterKey, cntValue, 0)_, err := resp.Result()if err != nil {// log errprintln("set value error!")}}println("current counter is ", cntValue)delResp := client.Del(lockKey)unlockSuccess, err := delResp.Result()if err == nil && unlockSuccess > 0 {println("unlock success!")} else {println("unlock failed", err)}
}
func main() {var wg sync.WaitGroupfor i := 0; i < 10; i++ {wg.Add(1)go func() {defer wg.Done()incr()}()}wg.Wait()
}
看看运行结果:
1.  ❯❯❯ go run redis_setnx.go
2.  <nil> lock result: false
3.  <nil> lock result: false
4.  <nil> lock result: false
5.  <nil> lock result: false
6.  <nil> lock result: false
7.  <nil> lock result: false
8.  <nil> lock result: false
9.  <nil> lock result: false
10.  <nil> lock result: false
11.  current counter is 2028
12.  unlock success!

通过代码和执行结果可以看到,我们远程调用 setnx  实际上和单机的trylock非常相似,如果获取
锁失败,那么相关的任务逻辑就不应该继续向前执行。
setnx  很适合在高并发场景下,用来争抢一些“唯一”的资源。比如交易撮合系统中卖家发起订单,
而多个买家会对其进行并发争抢。这种场景我们没有办法依赖具体的时间来判断先后,因为不管是用户
设备的时间,还是分布式场景下的各台机器的时间,都是没有办法在合并后保证正确的时序的。哪怕是
我们同一个机房的集群,不同的机器的系统时间可能也会有细微的差别。
所以,我们需要依赖于这些请求到达Redis节点的顺序来做正确的抢锁操作。如果用户的网络环境比较
差,那也只能自求多福了。

4、基于ZooKeeper

package mainimport (
"time""github.com/samuel/go-zookeeper/zk"
)func main() {c, _, err := zk.Connect([]string{"127.0.0.1"}, time.Second) //*10)if err != nil {panic(err)}l := zk.NewLock(c, "/lock", zk.WorldACL(zk.PermAll))err = l.Lock()if err != nil {panic(err)}println("lock succ, do your business logic")time.Sleep(time.Second * 10)// do some thingl.Unlock()println("unlock succ, finish business logic")
}

基于ZooKeeper的锁与基于Redis的锁的不同之处在于Lock成功之前会一直阻塞,这与我们单机场景
中的 mutex.Lock  很相似。
其原理也是基于临时Sequence节点和watch API,例如我们这里使用的是 /lock  节点。Lock会在
该节点下的节点列表中插入自己的值,只要节点下的子节点发生变化,就会通知所有watch该节点的程
序。这时候程序会检查当前节点下最小的子节点的id是否与自己的一致。如果一致,说明加锁成功了。
这种分布式的阻塞锁比较适合分布式任务调度场景,但不适合高频次持锁时间短的抢锁场景。按照
Google的Chubby论文里的阐述,基于强一致协议的锁适用于 粗粒度  的加锁操作。这里的粗粒度指
锁占用时间较长。我们在使用时也应思考在自己的业务场景中使用是否合适。

5、基于etcd

etcd是分布式系统中,功能上与ZooKeeper类似的组件,这两年越来越火了。上面基于ZooKeeper我
们实现了分布式阻塞锁,基于etcd,也可以实现类似的功能:

package mainimport (
"log""github.com/zieckey/etcdsync"
)func main() {m, err := etcdsync.New("/lock", 10, []string{"http://127.0.0.1:2379"})if m == nil || err != nil {log.Printf("etcdsync.New failed")return}err = m.Lock()if err != nil {log.Printf("etcdsync.Lock failed")return}log.Printf("etcdsync.Lock OK")log.Printf("Get the lock. Do something here.")err = m.Unlock()if err != nil {log.Printf("etcdsync.Unlock failed")} else {log.Printf("etcdsync.Unlock OK")}
}

etcd中没有像ZooKeeper那样的Sequence节点。所以其锁实现和基于ZooKeeper实现的有所不同。
在上述示例代码中使用的etcdsync的Lock流程是:
1. 先检查 /lock  路径下是否有值,如果有值,说明锁已经被别人抢了
2. 如果没有值,那么写入自己的值。写入成功返回,说明加锁成功。写入时如果节点被其它节点写
入过了,那么会导致加锁失败,这时候到 3
3. watch  /lock  下的事件,此时陷入阻塞
4. 当 /lock  路径下发生事件时,当前进程被唤醒。检查发生的事件是否是删除事件(说明锁被持有
者主动unlock),或者过期事件(说明锁过期失效)。如果是的话,那么回到 1,走抢锁流程。

26、定时器的实现原理

 1、 时间堆

最常见的时间堆一般用小顶堆实现,小顶堆其实就是一种特殊的二叉树,见图6-4

小顶堆的好处是什么呢?实际上对于定时器来说,如果堆顶元素比当前的时间还要大,那么说明堆内所
有元素都比当前时间大。进而说明这个时刻我们还没有必要对时间堆进行任何处理。定时检查的时间复
杂度是 O(1)  。
当我们发现堆顶的元素小于当前时间时,那么说明可能已经有一批事件已经开始过期了,这时进行正常
的弹出和堆调整操作就好。每一次堆调整的时间复杂度都是 O(LgN)  。
Go自身的内置定时器就是用时间堆来实现的,不过并没有使用二叉堆,而是使用了扁平一些的四叉堆。
在最近的版本中,还加了一些优化,我们先不说优化,先来看看四叉的小顶堆长什么样:

 2、时间轮

用时间轮来实现定时器时,我们需要定义每一个格子的“刻度”,可以将时间轮想像成一个时钟,中心有
秒针顺时针转动。每次转动到一个刻度时,我们就需要去查看该刻度挂载的任务列表是否有已经到期的
任务。
从结构上来讲,时间轮和哈希表很相似,如果我们把哈希算法定义为:触发时间%时间轮元素大小。那
么这就是一个简单的哈希表。在哈希冲突时,采用链表挂载哈希冲突的定时器。

3、任务分发

每一个实例每隔一小时,会去数据库里把下一个小时需要处理的定时任务捞出来,捞取的时候只要取那
些 task_id % shard_count = shard_id  的那些任务即可。
当这些定时任务被触发之后需要通知用户侧,有两种思路:
1. 将任务被触发的信息封装为一条消息,发往消息队列,由用户侧对消息队列进行监听。
2. 对用户预先配置的回调函数进行调用。
两种方案各有优缺点,如果采用1,那么如果消息队列出故障会导致整个系统不可用,当然,现在的消
息队列一般也会有自身的高可用方案,大多数时候我们不用担心这个问题。其次一般业务流程中间走消
息队列的话会导致延时增加,定时任务若必须在触发后的几十毫秒到几百毫秒内完成,那么采用消息队列就会有一定的风险。如果采用2,会加重定时任务系统的负担。我们知道,单机的定时器执行时最害
怕的就是回调函数执行时间过长,这样会阻塞后续的任务执行。在分布式场景下,这种忧虑依然是适用
的。一个不负责任的业务回调可能就会直接拖垮整个定时任务系统。所以我们还要考虑在回调的基础上
增加经过测试的超时时间设置,并且对由用户填入的超时时间做慎重的审核。

27、负载均衡有几种方式

如果我们不考虑均衡的话,现在有n个服务节点,我们完成业务流程实际上只需要从这n个中挑出其中的
一个。有几种思路:
1. 按顺序挑: 例如上次选了第一台,那么这次就选第二台,下次第三台,如果已经到了最后一台,
那么下一次从第一台开始。这种情况下我们可以把服务节点信息都存储在数组中,每次请求完成
下游之后,将一个索引后移即可。在移到尽头时再移回数组开头处。
2. 随机挑一个: 每次都随机挑,真随机伪随机均可。假设选择第 x 台机器,那么x可描述
为 rand.Intn()%n  。
3. 根据某种权重,对下游节点进行排序,选择权重最大/小的那一个。
当然了,实际场景我们不可能无脑轮询或者无脑随机,如果对下游请求失败了,我们还需要某种机制来
进行重试,如果纯粹的随机算法,存在一定的可能性使你在下一次仍然随机到这次的问题节点。

4、基于洗牌算法的负载均衡

在Go的标准库中实际上已经为我们内置了该算法:

  func shuffle(n int) []int {b := rand.Perm(n)return b}

5、ZooKeeper 集群的随机节点挑选问题

本节中的场景是从N个节点中选择一个节点发送请求,初始请求结束之后,后续的请求会重新对数组洗
牌,所以每两个请求之间没有什么关联关系。因此我们上面的洗牌算法,理论上不初始化随机库的种子
也是不会出什么问题的。
但在一些特殊的场景下,例如使用ZooKeeper时,客户端初始化从多个服务节点中挑选一个节点后,是
会向该节点建立长连接的。之后客户端请求都会发往该节点去。直到该节点不可用,才会在节点列表中
挑选下一个节点。在这种场景下,我们的初始连接节点选择就要求必须是“真”随机了。否则,所有客户
端起动时,都会去连接同一个ZooKeeper的实例,根本无法起到负载均衡的目的。如果在日常开发中,你的业务也是类似的场景,也务必考虑一下是否会发生类似的情况。为rand库设置种子的方法:
  rand.Seed(time.Now().UnixNano())

由于篇幅太长转到第二篇文章

地址:https://blog.csdn.net/IT_ziliang/article/details/123600841

最新golang语言面试题总结(一)相关推荐

  1. 最新golang语言面试题总结(三)

    1.go中拼接字符串有几种方式 1."+" 最常用的方法就是,使用"+"将两个字符串进行连接,与Python类似,不过Go语言中的字符串是不可变的类型,因此用& ...

  2. 2016二级c语言笔试内容,2016年计算机二级c语言笔试试题「最新」

    2016年计算机二级c语言笔试试题「最新」 (25)设有如下程序段 char s[20]= "Bejing",*p; p=s; 则执行p=s;语句后,以下叙述正确的是 A)可以用* ...

  3. 东软 c语言笔试题,C语言笔试题及参考答案-东软集团(最新整理)

    <C语言笔试题及参考答案-东软集团(最新整理)>由会员分享,可在线阅读,更多相关<C语言笔试题及参考答案-东软集团(最新整理)(7页珍藏版)>请在人人文库网上搜索. 1.C 语 ...

  4. c语言用户标识符不能描述常量,福建省c语言考试试题c题库选择题答案06-08(最新)...

    1.12006 年年 6 月份月份2008 年年 1 月份月份C 语言等级考试语言等级考试模拟试卷模拟试卷集成集成(选择题部分选择题部分)一.选择题一.选择题1.关于.关于 C 语言数据类型的叙述,正 ...

  5. 国二c语言是笔试还是机,2017最新国二c语言笔试题.doc

    2017最新国二c语言笔试题 2017最新国二c语言笔试题篇1 1一个C程序的执行是从( ). A) 本程序的main函数开始,到main函数结束 B) 本程序文件的第一个函数开始,到本程序文件的最后 ...

  6. 国二和本专业的C语言的差距,2021最新国二c语言笔试题

    2021最新国二c语言笔试题 发布时间:2021-04-24 C语言是一门通用计算机编程语言,应用广泛.下面就由第一范文网小编为大家介绍一下20xx最新国二c语言笔试题的文章,欢迎阅读. 20xx最新 ...

  7. 最新字节跳动面试题与岗位层级,绩效考核制度介绍

    最新字节跳动面试题与岗位层级,绩效考核制度介绍 1.算法题一:无序数组的中位数 (快排思想O(N) 时间复杂度) 2.算法题二:给一数组,让你找一对满足i 3.算法题三: 给一数组,让你找一对满足i& ...

  8. 最新字节跳动面试题与答案: 无序数组的中位数 (快排思想O(N) 时间复杂度)

    最新字节跳动面试题与答案 1.算法题一:无序数组的中位数 (快排思想O(N) 时间复杂度) package com.lightsword.leetcodeproblemsimport org.juni ...

  9. 2014年最新前端开发面试题

    2014年最新前端开发面试题(题目列表+答案 完整版) 转载自https://github.com/markyun/My-blog/tree/master/Front-end-Developer-Qu ...

最新文章

  1. 广东省“安网2016”网络安全专项治理行动正式启动
  2. 正则表达式高级用法【原】
  3. 5000个收货地址_欠薪老赖和法院玩4年“躲猫猫”,双十一更新收货地址后被抓...
  4. 使用CloudIDE搭建简单java环境
  5. 自定义应用程序配置文件(app.config)
  6. 资产信息自动化收集系统 Venux
  7. 职场谍战小说《监控》在广州日报连载
  8. selenium获取文本的几种方法小结(获取源码)
  9. matlab 自动交易系统设计3
  10. xftp6提示要继续使用此程序,您必须应用最新的更新
  11. PHP可以干数据分析师吗,在 NBA 做数据分析师是什么样的体验?
  12. vue调用手机浏览器打开pdf_在微信中调用外部浏览器实现文件下载之解决
  13. STM32单片机开发实例 基于STM32单片机的温室大棚监测系统
  14. Modbus家族之 ASCII
  15. u盘装linux镜像是dvd吗,使用U盘刻录镜像及解决在安装过程中找不到光盘的问题...
  16. 2021你还在手写SQL吗?万字综述Text to SQL技术
  17. JavaScript 生命周期
  18. 李大齐称“新女友”只是力捧选手:我要保护她
  19. 【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(10):向量组及其线性组合
  20. 东大计算机考研录取分数线,东南大学2020初试考研录取分数线名单

热门文章

  1. 线下门店管理运营 线下门店数据分析
  2. [原创]隐身斗篷简介及仿真
  3. 20145212罗天晨 恶意代码分析
  4. 深度揭秘Xshell后门事件:入侵感染供应链软件的大规模定向攻击
  5. pythontext函数用法汇总_Python - Text Summarization
  6. 机器学习 day15异常检测
  7. linux系统编程3—文件存储函数
  8. 使用 GVM 工具管理 Go 版本
  9. c语言int作用,c语言中int的用法
  10. 微信小程序WebView嵌入别人网页的解决办法